1
00:00:03,003 --> 00:00:05,405
(fanfare velikog orkestra
igranje)
2
00:00:27,795 --> 00:00:30,163
♪ ♪
3
00:00:41,843 --> 00:00:44,144
(ptice cvrkuću i dozivaju se)
4
00:00:49,216 --> 00:00:51,519
-(brgoljenje)
-(trepetanje)
5
00:00:55,657 --> 00:00:58,058
(VCR škljocanje i zujanje)
6
00:01:01,194 --> 00:01:02,630
(škljocanje projektora)
7
00:01:05,332 --> 00:01:09,637
Sada, današnja računala
potpuni su debili,
8
00:01:09,671 --> 00:01:12,507
ali ovo neće biti istina
u drugoj generaciji.
9
00:01:12,540 --> 00:01:15,342
Počet će razmišljati,
i na kraju će
10
00:01:15,375 --> 00:01:17,845
potpuno nadmudriti
njihovi tvorci.
11
00:01:17,879 --> 00:01:20,582
Je li ovo depresivno?
Ne vidim zašto bi to bilo.
12
00:01:20,615 --> 00:01:25,352
Sumnjam da organski
ili biološke evolucije
13
00:01:25,385 --> 00:01:27,220
skoro je došao kraj.
14
00:01:28,322 --> 00:01:29,791
(Daniel se smije)
15
00:01:29,824 --> 00:01:31,224
CAROLINE: Ti me ne želiš
biti pripovjedač.
16
00:01:31,258 --> 00:01:32,694
Nemam dobar glas.
17
00:01:32,727 --> 00:01:34,461
DANIEL: Imaš sjajan glas.
Samo to učini.
18
00:01:34,494 --> 00:01:36,598
To je samo--
samo ga isprobavamo.
19
00:01:36,631 --> 00:01:38,432
CAROLINE:
Moram li biti plaćen za ovo sranje?
20
00:01:38,465 --> 00:01:40,768
DANIEL (smijeh): Pa,
vidjet ćemo koliko ćeš biti dobar.
21
00:01:40,802 --> 00:01:42,202
(Caroline se smije)
22
00:01:42,235 --> 00:01:44,304
-♪ ♪
(pas laje)
23
00:01:46,908 --> 00:01:48,576
CAROLINE:
Moram nazvati roditelje.
24
00:01:48,610 --> 00:01:49,309
(motor se pokreće)
25
00:01:49,343 --> 00:01:51,478
Ponekad žurimo sa stvarima
26
00:01:51,512 --> 00:01:53,347
bez razmišljanja o njima.
27
00:01:53,380 --> 00:01:54,916
DANIEL: Da, možeš li p...
želiš li pucati? to je...
28
00:01:54,949 --> 00:01:57,752
CAROLINE: Kao kad je Daniel
i Caroline su se vjenčali
29
00:01:57,785 --> 00:02:00,755
151 dan nakon što su se upoznali.
30
00:02:00,788 --> 00:02:02,523
Premotajmo unatrag.
31
00:02:03,691 --> 00:02:05,325
(pljesak)
32
00:02:05,359 --> 00:02:07,562
Jeste li razmišljali o
kupnja kućnog računala?
33
00:02:07,595 --> 00:02:09,631
CAROLINE:
1993., kad je Daniel rođen,
34
00:02:09,664 --> 00:02:12,533
njegovi roditelji nisu ni imali
računalo u kući.
35
00:02:12,567 --> 00:02:14,334
Ali on se sjeća
kada su ga konačno dobili.
36
00:02:14,368 --> 00:02:16,269
Ono što je računalo za mene je
37
00:02:16,303 --> 00:02:18,873
ekvivalent biciklu
za naše umove.
38
00:02:18,906 --> 00:02:20,608
Zdravo.
39
00:02:20,642 --> 00:02:22,777
CAROLINE: Njegovo računalo je pomoglo
oslobodite njegovu kreativnost.
40
00:02:22,810 --> 00:02:24,411
DANIEL:
Kotrljanje. Ići.
41
00:02:24,444 --> 00:02:27,247
CAROLINE: Koristio je
iMac njegova oca za uređivanje videa.
42
00:02:27,280 --> 00:02:28,650
Da!
43
00:02:28,683 --> 00:02:30,618
CAROLINE: I čak napraviti
male animacije.
44
00:02:30,652 --> 00:02:32,419
(cviljenje guma, sudar)
45
00:02:32,452 --> 00:02:35,690
1998., kad je Caroline bila
djevojčica...
46
00:02:35,723 --> 00:02:37,290
Bok, mama.
47
00:02:37,324 --> 00:02:38,593
...samo su štreberi znali
što je internet bio.
48
00:02:38,626 --> 00:02:40,360
I što o tome
ova internet stvar?
49
00:02:40,394 --> 00:02:41,696
-Znaš li, znaš li ti štogod
o tome? -Naravno.
50
00:02:41,729 --> 00:02:43,330
(smijeh publike)
-CAROLINE: Ali uskoro,
51
00:02:43,363 --> 00:02:45,399
-svi su bili na...
-...Interneti.
52
00:02:45,432 --> 00:02:47,467
...i računala su bila
pobijediti ljude u šahu.
53
00:02:47,502 --> 00:02:50,470
SPIKER: Deep Blue--
Kasparov je dao ostavku!
54
00:02:50,505 --> 00:02:52,874
CAROLINE: I do vremena
Caroline je išla na koledž,
55
00:02:52,907 --> 00:02:55,543
računala su bila
u svačijem džepu.
56
00:02:55,576 --> 00:02:58,713
Sada bi Daniel mogao snimati filmove
sa svojim telefonom.
57
00:02:58,746 --> 00:03:02,215
Izrastao je u umjetnika
i redatelj...
58
00:03:02,249 --> 00:03:04,418
-Laku noć.
-...i Caroline također.
59
00:03:04,451 --> 00:03:06,286
rezati. Idemo u krupni plan.
To je bilo savršeno.
60
00:03:06,319 --> 00:03:07,822
Do tada su računala bila
povezivanje ljudi
61
00:03:07,855 --> 00:03:09,456
i mijenjanje svijeta na načine
62
00:03:09,489 --> 00:03:10,925
da nikada
mogao zamisliti.
63
00:03:10,958 --> 00:03:12,694
Sav novac prikupljen od
Ice Bucket Challenge...
64
00:03:12,727 --> 00:03:14,796
CAROLINE:
Nešto od toga je bilo dobro.
65
00:03:14,829 --> 00:03:15,963
(dašćući)
66
00:03:15,997 --> 00:03:17,565
Neki nisu baš dobri.
67
00:03:17,598 --> 00:03:19,701
Tjeskoba, samoozljeđivanje, samoubojstvo...
68
00:03:19,734 --> 00:03:21,602
Ali sada je jasno
da nismo učinili dovoljno
69
00:03:21,636 --> 00:03:24,839
kako biste spriječili ove alate
koristi se i za štetu.
70
00:03:24,872 --> 00:03:26,741
CAROLINE: I kao svijet
sve više i više usredotočen
71
00:03:26,774 --> 00:03:28,543
-na njihovim računalima,
(telefon zvoni)
72
00:03:28,576 --> 00:03:31,211
Daniel se usredotočio na svoje umjetničko djelo.
73
00:03:32,312 --> 00:03:36,249
Kamo god otišao,
uvijek je imao blok za crtanje,
74
00:03:36,283 --> 00:03:38,720
uključujući noć
upoznao je Caroline.
75
00:03:38,753 --> 00:03:41,923
Nacrtao je užasnu sliku
nje, a 20 minuta kasnije,
76
00:03:41,956 --> 00:03:44,592
hrabro je izgovorio
namjeravali su se vjenčati,
77
00:03:44,625 --> 00:03:47,862
što su, kao što znate, i učinili,
151 dan kasnije.
78
00:03:47,895 --> 00:03:50,464
ŽENA: ...sada te proglasiti
muž i žena.
79
00:03:50,497 --> 00:03:51,933
CAROLINE:
Uselili su se u slatku kuću...
80
00:03:51,966 --> 00:03:53,433
-DANIEL: Moose, hej! Dođi ovamo!
-...i dobio psa
81
00:03:53,467 --> 00:03:54,936
glup kao Daniel.
82
00:03:54,969 --> 00:03:57,872
U međuvremenu, računala su bila
pisanje cijelih eseja
83
00:03:57,905 --> 00:03:59,707
na temelju jednostavnih pitanja poput,
84
00:03:59,741 --> 00:04:02,777
"Koliko bi to bilo teško izgraditi
koliba u mom dvorištu?"
85
00:04:03,443 --> 00:04:06,514
I tako je Daniel sagradio kolibu
u svom dvorištu.
86
00:04:07,380 --> 00:04:10,317
Ali baš kad je sjeo da počne
radi na svom sljedećem filmu,
87
00:04:10,350 --> 00:04:14,488
naučio je da računala
sada bi mogao pisati scenarije.
88
00:04:15,422 --> 00:04:16,891
Mislim, bili su loši,
89
00:04:16,924 --> 00:04:19,326
ali postajali su bolji
stvarno brzo.
90
00:04:19,359 --> 00:04:21,929
Mogli bi stvarati nove slike
i videozapise od nule,
91
00:04:21,963 --> 00:04:25,032
i neki od njih
mogao čak položiti pravosudni ispit.
92
00:04:25,066 --> 00:04:29,402
Ne samo prijeći letvicu nego
biti u prvih deset percentila.
93
00:04:29,436 --> 00:04:31,038
CAROLINE:
Bilo je zbunjujuće.
94
00:04:31,072 --> 00:04:32,607
(uzdahne)
95
00:04:32,640 --> 00:04:35,543
Daniel je samo htio
bicikl za njegov um,
96
00:04:35,576 --> 00:04:39,080
ali računala su postala
samovozeći raketni brod.
97
00:04:39,113 --> 00:04:40,648
(šištanje)
98
00:04:40,681 --> 00:04:42,517
("Mi kontroliramo"
svira Neil Young)
99
00:04:42,550 --> 00:04:45,385
Pioniri na terenu
umjetne inteligencije
100
00:04:45,418 --> 00:04:46,821
mole Kongresu
101
00:04:46,854 --> 00:04:48,856
proći sigurnosna pravila
prije nego bude prekasno.
102
00:04:48,890 --> 00:04:50,858
CAROLINE: Sada se činilo kao
cijeli svijet
103
00:04:50,892 --> 00:04:53,528
žurio je u nešto
bez razmišljanja,
104
00:04:53,561 --> 00:04:55,830
i svatko je imao svoje mišljenje.
105
00:04:56,564 --> 00:05:00,635
Bi li to uništilo svijet
ili spasiti čovječanstvo?
106
00:05:00,668 --> 00:05:02,804
Bilo je previše informacija,
107
00:05:02,837 --> 00:05:05,106
što ga je činilo tjeskobnim,
što je činilo Caroline tjeskobnom...
108
00:05:05,139 --> 00:05:06,541
(razdraženi vrisak)
109
00:05:06,574 --> 00:05:08,042
Još nemam djece,
ali brinem se
110
00:05:08,075 --> 00:05:10,645
kako bi svijet izgledao
ako odlučim. (smije se)
111
00:05:10,678 --> 00:05:12,947
CAROLINE:
Počeo se vrtjeti.
112
00:05:12,980 --> 00:05:14,549
(nerazgovjetno brbljanje)
113
00:05:14,582 --> 00:05:17,685
Postajalo je
brdo tjeskobe.
114
00:05:19,620 --> 00:05:22,322
- MUŠKARAC: To je užasno.
- To je jebena Siri.
115
00:05:23,124 --> 00:05:25,893
CAROLINE:
I tako je Daniel odlučio izaći van
116
00:05:25,927 --> 00:05:28,529
i pronaći nekoga
tko bi mu ovo mogao objasniti,
117
00:05:28,563 --> 00:05:30,631
kako bi mogao prestati
razmišljam o tome
118
00:05:30,665 --> 00:05:33,835
i on i Caroline bi mogli
nastaviti sa svojim životima.
119
00:05:33,868 --> 00:05:37,437
♪ Mi imamo kontrolu,
mi imamo kontrolu ♪
120
00:05:37,470 --> 00:05:39,006
♪ Mi imamo kontrolu ♪
121
00:05:39,040 --> 00:05:41,042
♪ Kemijsko računalo
baterija za razmišljanje ♪
122
00:05:41,075 --> 00:05:42,877
♪ Mi imamo kontrolu, mi smo... ♪
123
00:05:42,910 --> 00:05:45,980
Ovaj bi se pothvat pokazao
biti beznadno naivan
124
00:05:46,013 --> 00:05:49,584
i započeti najzbunjujuće
godinu života.
125
00:05:49,617 --> 00:05:50,985
♪ Mi imamo kontrolu... ♪
126
00:05:51,018 --> 00:05:53,420
Ali kao što znamo,
ponekad žurimo sa stvarima
127
00:05:53,453 --> 00:05:54,956
bez razmišljanja o njima.
128
00:05:54,989 --> 00:05:56,791
♪ Kemijsko računalo
baterija za razmišljanje... ♪
129
00:05:56,824 --> 00:05:58,491
Bože moj. Što se događa?
130
00:05:58,526 --> 00:06:00,127
CAROLINE:
Imao je pitanja.
131
00:06:00,161 --> 00:06:02,096
Pitanja samo
najpametniji štreberi bi mogli odgovoriti.
132
00:06:02,129 --> 00:06:04,665
Podvrgavanje ispitivaču.
133
00:06:04,699 --> 00:06:06,399
CAROLINE:
Pitanja poput:
134
00:06:06,433 --> 00:06:09,103
Je li ovo bila apokalipsa
ili je zapravo imao razloga
135
00:06:09,136 --> 00:06:10,705
-biti optimističan?
-Da.
136
00:06:11,305 --> 00:06:14,407
-♪ Kemijsko računalno razmišljanje
baterija. ♪ -(pjesma završava)
137
00:06:14,441 --> 00:06:16,677
CAROLINE:
Uh, je li to dobro?
138
00:06:16,711 --> 00:06:18,112
DANIEL:
Da.
139
00:06:18,145 --> 00:06:20,648
Dakle, za početak,
140
00:06:20,681 --> 00:06:22,482
što je umjetna inteligencija?
141
00:06:22,516 --> 00:06:25,152
Znam da to mora biti neugodno
za vas, to-to pitanje,
142
00:06:25,186 --> 00:06:27,021
ali mislim da je važno.
143
00:06:27,054 --> 00:06:30,423
Dakle... AI...
144
00:06:30,457 --> 00:06:32,459
(muca) Hm...
145
00:06:32,492 --> 00:06:34,161
-Da...
- Uh, hmm.
146
00:06:34,195 --> 00:06:35,196
(smijeh):
To je dobro pitanje.
147
00:06:35,229 --> 00:06:36,697
-Da, ovaj...
-Ovaj...
148
00:06:36,731 --> 00:06:38,165
DANIEL:
Što je AI?
149
00:06:38,199 --> 00:06:39,634
(smijeh)
150
00:06:39,667 --> 00:06:41,035
Volim da je to
prvo pitanje,
151
00:06:41,068 --> 00:06:43,671
jer nema
jasan i dosljedan odgovor.
152
00:06:43,704 --> 00:06:45,740
Umjetna inteligencija je
153
00:06:45,773 --> 00:06:51,178
nekako namjerno
a možda i beskorisno širok pojam.
154
00:06:51,212 --> 00:06:53,781
DAVID EVAN HARRIS:
To je stroj
155
00:06:53,814 --> 00:06:56,083
radeći stvari koje
prije smo samo mislili
156
00:06:56,117 --> 00:06:57,718
da ljudi mogu učiniti:
157
00:06:57,752 --> 00:07:01,656
davanje preporuka,
odluke i predviđanja.
158
00:07:01,689 --> 00:07:07,228
AI je, uh, aplikacija
informatike
159
00:07:07,261 --> 00:07:09,664
za rješavanje kognitivnih problema.
160
00:07:09,697 --> 00:07:13,768
U redu, pa kad zamislim AI,
161
00:07:13,801 --> 00:07:17,204
to je nešto poput
ova čarobna kutija za računalo...
162
00:07:17,238 --> 00:07:19,640
♪ ♪
163
00:07:20,708 --> 00:07:24,645
...samo, kao, lebdi
u, kao, inertnom prostoru.
164
00:07:24,679 --> 00:07:26,847
I nema veze
koliko puta ljudi pokušaju
165
00:07:26,881 --> 00:07:30,051
i objasni mi ovo,
Samo ne kužim kako...
166
00:07:30,084 --> 00:07:32,887
kako je razumijevanje
sve ove stvari
167
00:07:32,920 --> 00:07:36,190
i kakav je to osjećaj
inteligencija.
168
00:07:36,223 --> 00:07:37,692
(pištanje, elektroničko čavrljanje)
169
00:07:37,725 --> 00:07:39,927
I to je nekako
kidanje živaca.
170
00:07:41,729 --> 00:07:46,499
AZA RASKIN: Što je
ova nova generacija umjetne inteligencije?
171
00:07:47,535 --> 00:07:50,638
Ovaj AI koji je drugačiji od
svake druge generacije?
172
00:07:50,671 --> 00:07:53,040
Kao, nitko nikad
razgovarali o, kao,
173
00:07:53,074 --> 00:07:57,545
Siri preuzima svijet
ili izazivanje katastrofa.
174
00:07:57,578 --> 00:07:59,080
-ŽENA: Bok, Siri?
-MUŠKARAC: ...želim.
175
00:07:59,113 --> 00:08:01,115
ŽENA:
halo Siri?
176
00:08:01,148 --> 00:08:02,984
Zdravo? Hej, Siri!
177
00:08:03,017 --> 00:08:06,253
Ili glas u Google kartama,
koji pogrešno izgovara nazive cesta,
178
00:08:06,287 --> 00:08:07,888
kao, razbijanje društva.
179
00:08:07,922 --> 00:08:10,992
ČOVJEK: Google Maps kaže
ovo je cesta.
180
00:08:11,025 --> 00:08:13,627
(smijeh):
Ali mislim da sam u rijeci.
181
00:08:13,661 --> 00:08:14,996
Ovo je definitivno rijeka,
innit?
182
00:08:15,029 --> 00:08:17,898
Nešto se promijenilo
s ChatGPT-om koji izlazi.
183
00:08:18,532 --> 00:08:20,568
Ljudi su razumjeli-- ne, ne, ne--
184
00:08:20,601 --> 00:08:21,869
ove tehnologije
ludo vrijedan,
185
00:08:21,902 --> 00:08:24,005
ludo je moćan
a također i ludo strašno.
186
00:08:24,038 --> 00:08:25,940
Dobro, slušaj ovo.
Vrlo jezivo.
187
00:08:25,973 --> 00:08:28,976
Nova umjetna inteligencija
alat postaje viralan
188
00:08:29,010 --> 00:08:32,980
za pisanje cijelih eseja
za nekoliko sekundi.
189
00:08:36,217 --> 00:08:41,722
AI zasjenjuje snagu svih
druge tehnologije u kombinaciji.
190
00:08:41,756 --> 00:08:44,058
DANIEL:
"AI zasjenjuje snagu
191
00:08:44,091 --> 00:08:46,827
svih ostalih tehnologija
u kombinaciji."
192
00:08:46,861 --> 00:08:47,762
Da.
193
00:08:47,795 --> 00:08:49,230
Mislite li da je to istina?
194
00:08:49,263 --> 00:08:51,265
Da.
195
00:08:51,298 --> 00:08:53,567
Reci mi o-- Kako? Kako?
196
00:08:53,601 --> 00:08:57,038
Mislim, da naslikam tu sliku,
stvarno je važno
197
00:08:57,071 --> 00:09:01,175
razumjeti što je danas
najsuvremeniji sustavi
198
00:09:01,208 --> 00:09:02,777
izgledaju i kako su građeni.
199
00:09:02,810 --> 00:09:06,280
(smijeh) Ovo je
prilično... prilično namještaljka.
200
00:09:06,313 --> 00:09:07,782
Dakle, jedna stvar
201
00:09:07,815 --> 00:09:10,051
nema puno ljudi
shvatite da
202
00:09:10,084 --> 00:09:14,221
sustavi poput ChatGPT-a nisu
programiran od bilo kojeg čovjeka.
203
00:09:14,255 --> 00:09:15,756
kako to misliš
204
00:09:15,790 --> 00:09:17,625
Umjesto toga, to je nešto poput
th-oni su odrasli.
205
00:09:17,658 --> 00:09:19,727
Mi im na neki način dajemo
sirovi resursi, poput,
206
00:09:19,760 --> 00:09:21,629
"Evo puno toga
računalni resursi.
207
00:09:21,662 --> 00:09:22,730
Ovdje je puno podataka."
208
00:09:22,763 --> 00:09:24,165
Ispod haube je matematika,
209
00:09:24,198 --> 00:09:27,668
a matematika je zapravo
iznenađujuće izravna.
210
00:09:27,701 --> 00:09:31,672
DANIEL: Dakle, ChatGPT je vrsta
AI, ali nije sve od AI?
211
00:09:31,705 --> 00:09:33,207
Potpuno. ChatGPT je
tek početak,
212
00:09:33,240 --> 00:09:34,675
ali to je dobro mjesto za početak.
213
00:09:34,708 --> 00:09:38,145
Ali još uvijek ne znam
što je AI.
214
00:09:38,179 --> 00:09:40,848
Da bismo razumjeli AI,
počinje s razumijevanjem
215
00:09:40,881 --> 00:09:43,717
da je inteligencija o
prepoznavanje obrazaca.
216
00:09:43,751 --> 00:09:45,186
-Uzorci. -Uzorci.
-Uzorci.
217
00:09:45,219 --> 00:09:48,956
COTRA: Prikazano je
bilijuni riječi teksta
218
00:09:48,989 --> 00:09:51,826
preko milijuna dokumenata
na internetu.
219
00:09:51,859 --> 00:09:53,127
RANDIMA FERNANDO:
Počelo je s tekstom.
220
00:09:53,160 --> 00:09:56,197
A ono što su učinili bilo je
uzeli su udžbenike,
221
00:09:56,230 --> 00:09:59,967
i uzeli su pjesme i eseje
i priručnike s uputama.
222
00:10:00,000 --> 00:10:01,368
DAVID EVAN HARRIS:
Oni mogu raditi stvari poput
223
00:10:01,402 --> 00:10:03,370
probaviti cijeli Internet,
224
00:10:03,404 --> 00:10:07,108
svaku pojedinu riječ koja je ikad
napisala je osoba.
225
00:10:07,141 --> 00:10:10,244
Teme na Redditu i društveni mediji
i cijele Wikipedije.
226
00:10:10,277 --> 00:10:14,048
Više podataka nego što bi itko mogao
ikad pročitan u nekoliko života.
227
00:10:14,081 --> 00:10:15,950
I dali su ovaj sustav
jedan posao.
228
00:10:15,983 --> 00:10:18,953
Odgonetnite uzorke i
struktura te informacije
229
00:10:18,986 --> 00:10:21,122
i iskoristi to
napraviti predviđanja o
230
00:10:21,155 --> 00:10:23,791
koja bi riječ trebala doći sljedeća
u rečenici.
231
00:10:23,824 --> 00:10:25,426
Kad kažeš
"uzorci u rečenici,"
232
00:10:25,459 --> 00:10:27,128
o čemu pričaš
233
00:10:27,161 --> 00:10:29,864
Dakle, sve je od, kao,
stvarno jednostavne stvari,
234
00:10:29,897 --> 00:10:32,266
kao većina rečenica završava
s točkom,
235
00:10:32,299 --> 00:10:35,402
sve do
više konceptualnih stvari, poput:
236
00:10:35,436 --> 00:10:37,138
Što je sonet?
237
00:10:37,171 --> 00:10:39,039
To je vrsta pjesme, i ima
neku posebnu strukturu.
238
00:10:39,707 --> 00:10:41,809
RASKIN:
Dakle, onda gleda na
239
00:10:41,842 --> 00:10:44,011
svi ti podaci,
sav taj tekst...
240
00:10:44,044 --> 00:10:46,313
COTRA: I preko trilijuna
i trilijune pokušaja,
241
00:10:46,347 --> 00:10:49,150
svaki put nešto dobije
ispravno ili krivo,
242
00:10:49,183 --> 00:10:51,819
dato je malo
pozitivnog potkrepljenja
243
00:10:51,852 --> 00:10:53,888
kada pogodi
ispravna sljedeća riječ,
244
00:10:53,921 --> 00:10:56,090
a daje se malo
negativnog pojačanja
245
00:10:56,123 --> 00:10:58,926
kada pogodi
sljedeća riječ netočno.
246
00:10:59,727 --> 00:11:02,029
I na kraju toga,
imate sustav koji
247
00:11:02,062 --> 00:11:05,332
govori jako dobro engleski
kao nuspojava
248
00:11:05,366 --> 00:11:07,168
biti stvarno, jako dobar
kod predviđanja
249
00:11:07,201 --> 00:11:09,103
riječ koja slijedi
u komadu teksta.
250
00:11:09,136 --> 00:11:11,972
(automatski glas
govoreći francuski)
251
00:11:12,006 --> 00:11:14,308
Koristi sve te obrasce
ono je naučilo
252
00:11:14,341 --> 00:11:16,277
moći napraviti
predviđanje o
253
00:11:16,310 --> 00:11:17,811
kakav bi odgovor trebao biti,
254
00:11:17,845 --> 00:11:19,180
onda vam daje to
kao izlaz.
255
00:11:19,213 --> 00:11:21,482
AUTOMATIZIRANI GLAS:
Malo je pojednostavljeno,
256
00:11:21,516 --> 00:11:23,717
ali mislim da će ljudi to shvatiti.
257
00:11:23,751 --> 00:11:25,252
Dakle, to je sve što radi?
258
00:11:25,286 --> 00:11:27,354
Da. Ne čini se
bilo bi tako komplicirano,
259
00:11:27,388 --> 00:11:28,489
ali zapravo moraš znati
260
00:11:28,523 --> 00:11:30,057
ogromna količina stvari
261
00:11:30,090 --> 00:11:32,092
kako bi
zapravo uspjeti u tome.
262
00:11:32,793 --> 00:11:34,461
RASKIN:
Ako kažete ChatGPT,
263
00:11:34,495 --> 00:11:37,131
"Napiši mi Shakespeareana
sonet o mom psu,"
264
00:11:37,164 --> 00:11:39,166
mora znati što su psi.
265
00:11:39,200 --> 00:11:40,935
-Mora znati što voliš
o vašem psu. (lajanje)
266
00:11:40,968 --> 00:11:43,304
Mora znati
tko je Shakespeare,
267
00:11:43,337 --> 00:11:46,040
da se soneti rimuju,
da imaju strukturu,
268
00:11:46,073 --> 00:11:48,342
da riječi imaju zvukove
koje se mogu rimovati.
269
00:11:48,375 --> 00:11:49,843
Potrebno je puno.
270
00:11:49,877 --> 00:11:51,212
(glasovi se preklapaju
na raznim jezicima)
271
00:11:51,245 --> 00:11:53,280
Sranje, možeš razgovarati
na svoje računalo sada.
272
00:11:53,314 --> 00:11:56,350
To jednostavno nije bila istina
prije tri godine.
273
00:11:56,383 --> 00:11:58,085
RASKIN: Da, a ovo je
stvarno važan dio.
274
00:11:58,118 --> 00:12:01,055
Isti proces koji omogućuje AI
275
00:12:01,088 --> 00:12:03,490
otkriti i manipulirati
uzorci teksta
276
00:12:03,525 --> 00:12:06,160
to je isti postupak
to omogućuje otkrivanje
277
00:12:06,193 --> 00:12:10,231
obrasci cjeline
svemir i sve u njemu.
278
00:12:10,831 --> 00:12:13,234
FERNANDO: Postoje uzorci
i slike i zvuk
279
00:12:13,267 --> 00:12:16,470
u računalnom kodu i DNK
i glazba i fizika
280
00:12:16,504 --> 00:12:18,973
i modni i građevinski dizajn
281
00:12:19,006 --> 00:12:22,042
(iskrivljeno): i u
ljudski glasovi i ljudska lica,
282
00:12:22,076 --> 00:12:24,245
(normalno):
stvarno, uistinu posvuda.
283
00:12:24,278 --> 00:12:26,347
-Svugdje. -Svugdje.
-Svugdje. -Svugdje.
284
00:12:26,380 --> 00:12:28,182
Ako ste naučili
ti uzorci,
285
00:12:28,215 --> 00:12:30,117
možete generirati
nove vrste pjesama.
286
00:12:30,150 --> 00:12:31,785
Možete generirati nove videozapise.
287
00:12:31,819 --> 00:12:33,087
I zato, ako ga daš
288
00:12:33,120 --> 00:12:35,322
snimak od tri sekunde
tvoje bake,
289
00:12:35,356 --> 00:12:37,224
može odgovoriti njezinim glasom.
290
00:12:37,258 --> 00:12:38,092
O moj Bože.
291
00:12:38,125 --> 00:12:41,061
(ponavlja se):
O moj Bože. O, moj Bože.
292
00:12:41,095 --> 00:12:43,397
Što će sljedeće smisliti?
293
00:12:43,430 --> 00:12:44,532
Kreće se vrlo, vrlo brzo.
294
00:12:44,566 --> 00:12:46,400
Američki AI start-up
295
00:12:46,433 --> 00:12:48,068
je izbacio svoj najnoviji model.
296
00:12:48,102 --> 00:12:51,171
Ta tvrtka je Anthropic,
i upravo je predstavljen
297
00:12:51,205 --> 00:12:54,174
najnovije verzije
njegovog AI pomoćnika Claudea.
298
00:12:54,208 --> 00:12:57,411
GLENN BECK: Dakle, xAI tim
bio je tamo da otkrije Grok 4.
299
00:12:57,444 --> 00:13:00,414
ČOVJEK: Google je izdao jedan
samo prošli tjedan. Blizanci su...
300
00:13:00,447 --> 00:13:03,417
Otišli smo s GPT-2
prije samo par godina,
301
00:13:03,450 --> 00:13:06,020
koja je jedva znala pisati
koherentan odlomak,
302
00:13:06,053 --> 00:13:08,322
na GPT-4,
koja može položiti pravosudni ispit.
303
00:13:08,355 --> 00:13:10,924
I sve što su morali učiniti
doći tamo
304
00:13:10,958 --> 00:13:13,294
u biti je dodati više podataka
i više računati.
305
00:13:13,327 --> 00:13:16,897
-Ovi ljudi koji su
gradeći ovo... -COTRA: Da.
306
00:13:16,930 --> 00:13:18,332
...samo bacaju još...
307
00:13:18,365 --> 00:13:22,236
Više fizičkih računala,
više istih vrsta podataka.
308
00:13:22,269 --> 00:13:25,039
Jer što više
računalna snaga koju dodajete,
309
00:13:25,072 --> 00:13:28,375
što složeniji
intelektualne zadatke koje mogu obaviti.
310
00:13:28,409 --> 00:13:30,444
Dakle, što više vremenskih podataka
ti daj,
311
00:13:30,477 --> 00:13:32,446
bolje može
davati predviđanja o
312
00:13:32,479 --> 00:13:34,448
kamo bi uragan mogao otići.
313
00:13:34,481 --> 00:13:36,584
RASKIN: I što više uzoraka
tumora i kostiju
314
00:13:36,618 --> 00:13:39,253
i tkiva koje je AI vidio,
onda je to bolje
315
00:13:39,286 --> 00:13:42,489
za otkrivanje tumora
u novom CT skeniranju.
316
00:13:42,524 --> 00:13:44,124
Bolji čak i od ljudskog liječnika.
317
00:13:44,158 --> 00:13:47,328
AI to već postoji
raspoređen za vojsku
318
00:13:47,361 --> 00:13:49,463
već se može koristiti
satelitske slike,
319
00:13:49,496 --> 00:13:52,199
pokreti trupa, komunikacije
odrediti,
320
00:13:52,232 --> 00:13:53,934
-ponekad danima unaprijed,
(zavijanje sirena civilne obrane)
321
00:13:53,967 --> 00:13:55,336
gdje je napad
dogodit će se,
322
00:13:55,369 --> 00:13:57,605
kao gdje je neprijatelj
će štrajkati.
323
00:13:57,639 --> 00:14:00,007
TRISTAN HARRIS: Ovo cijelo
svemir se kreće tako brzo
324
00:14:00,040 --> 00:14:02,142
da bilo koji primjer
ste stavili u ovaj film
325
00:14:02,176 --> 00:14:05,112
osjećat će se apsolutno nespretno
do trenutka kad izađe.
326
00:14:05,145 --> 00:14:07,348
(bipkanje, klikanje)
327
00:14:09,950 --> 00:14:11,653
(pljesak)
(svira vesela glazba)
328
00:14:11,686 --> 00:14:14,421
RASKIN:
Ovi modeli se objavljuju
329
00:14:14,455 --> 00:14:17,391
prije nego što itko sazna
za što su uopće sposobni.
330
00:14:17,424 --> 00:14:22,896
GPT-3.5 je objavljen i izašao
više od 100 milijuna ljudi
331
00:14:22,930 --> 00:14:26,333
prije nekih istraživača
otkrio da može
332
00:14:26,367 --> 00:14:29,203
kemija istraživačke razine
bolji od modela
333
00:14:29,236 --> 00:14:33,240
koji su bili posebno obučeni
baviti se kemijom istraživačke razine.
334
00:14:33,273 --> 00:14:36,009
Nešto se tamo događa
da je narod
335
00:14:36,043 --> 00:14:38,546
koji ih grade
ne razumijem u potpunosti.
336
00:14:38,580 --> 00:14:41,348
Uglavnom, samo analizira
podaci sami po sebi,
337
00:14:41,382 --> 00:14:45,419
i dok to radi,
samo se uči
338
00:14:45,452 --> 00:14:48,355
razne stvari
što često nismo namjeravali.
339
00:14:48,389 --> 00:14:50,324
Tako, na primjer,
puno se čita na internetu,
340
00:14:50,357 --> 00:14:53,127
a onda u nekom trenutku, jednostavno
uči kako računati.
341
00:14:53,160 --> 00:14:54,662
DJECA:
Jedan, dva.
342
00:14:54,696 --> 00:14:56,463
HENDRYCKS: A onda u
u jednom trenutku počinje učiti
343
00:14:56,497 --> 00:14:59,099
kako odgovoriti
napredna pitanja iz fizike.
344
00:14:59,133 --> 00:15:01,268
Nismo to programirali
u tome što god.
345
00:15:01,301 --> 00:15:03,203
Samo je naučilo.
346
00:15:05,640 --> 00:15:07,709
TRISTAN HARRIS:
AI je poput digitalnog mozga.
347
00:15:07,742 --> 00:15:09,176
Ali baš poput ljudskog mozga,
348
00:15:09,209 --> 00:15:11,078
ako ste radili skeniranje mozga
na ljudskom mozgu,
349
00:15:11,111 --> 00:15:13,447
bi li znao sve
ta osoba bila sposobna?
350
00:15:13,480 --> 00:15:15,482
Ne možeš to znati
samo iz skeniranja mozga.
351
00:15:15,517 --> 00:15:18,318
To je samo, kao,
hrpa brojeva i, kao,
352
00:15:18,352 --> 00:15:20,522
množenja koja su
događa se to-to, kao,
353
00:15:20,555 --> 00:15:22,524
najbolje strojno učenje
istraživač u svijetu
354
00:15:22,557 --> 00:15:25,159
mogao pogledati i, kao, imati
nemam pojma što se događa.
355
00:15:31,398 --> 00:15:33,200
DANIEL:
Ta stolica tamo.
356
00:15:33,233 --> 00:15:35,469
-Je li ti to u redu?
-Da.
357
00:15:36,136 --> 00:15:38,172
DANIEL: Dakle,
to je pomalo zapanjujuće.
358
00:15:38,205 --> 00:15:39,440
U redu? Kao, preuzima sve
svijet,
359
00:15:39,473 --> 00:15:41,609
a ni ne znamo
kako radi.
360
00:15:41,643 --> 00:15:43,477
-Je li tako?
-Mm.
361
00:15:43,511 --> 00:15:47,381
Razumijemo
nekoliko važnih stvari,
362
00:15:47,414 --> 00:15:51,051
ali nemamo
vrlo dobro shvaćanje
363
00:15:51,084 --> 00:15:53,521
zašto pružaju
konkretne odgovore na pitanja.
364
00:15:53,555 --> 00:15:58,992
Problem je jer jesmo
na putu t-za izgradnju strojeva,
365
00:15:59,026 --> 00:16:03,531
na temelju ovih načela,
to bi moglo biti pametnije od nas
366
00:16:03,565 --> 00:16:07,067
i time potencijalno imati
puno snage.
367
00:16:12,774 --> 00:16:15,610
Jedan od najcitiranijih
informatičari u povijesti.
368
00:16:15,643 --> 00:16:17,545
SUTSKEVER: Zapravo ga pronalazim
malo teško
369
00:16:17,579 --> 00:16:19,079
govoriti o vlastitoj ulozi.
370
00:16:19,112 --> 00:16:21,448
Stvarno puno draže
kada to rade drugi ljudi.
371
00:16:21,482 --> 00:16:24,351
Ilya se pridružio...
bio-bio je okosnica za
372
00:16:24,384 --> 00:16:26,086
OpenAI biće
u konačnici uspješno.
373
00:16:26,119 --> 00:16:27,522
Mislim da će to jednostavno biti
374
00:16:27,555 --> 00:16:31,158
neka vrsta ogromnog, dramatičnog
i nezamisliv utjecaj.
375
00:16:31,191 --> 00:16:33,327
Ne znam jeste li potrošili
bilo kada na YouTubeu,
376
00:16:33,360 --> 00:16:35,563
ali možete nekako osjetiti
već brzina, zar ne?
377
00:16:35,597 --> 00:16:36,764
Znate na što mislim?
378
00:16:36,798 --> 00:16:38,633
SHANE LEGG:
Ovo je samo zagrijavanje.
379
00:16:38,666 --> 00:16:41,068
Stvarno moćni sustavi
još dolaze,
380
00:16:41,101 --> 00:16:43,136
i oni će doći
vrlo brzo.
381
00:16:48,408 --> 00:16:52,145
AGI je kratica za "umjetno".
opća inteligencija."
382
00:16:52,179 --> 00:16:54,481
Uh, sustavi koji jesu
u osnovi...
383
00:16:58,553 --> 00:17:00,755
A ovo je, kao, znaš,
čini se, kao,
384
00:17:00,788 --> 00:17:03,525
sveti gral AI?
385
00:17:03,558 --> 00:17:05,527
Kada možete simulirati
ljudski um
386
00:17:05,560 --> 00:17:08,362
koja radi ljudsku spoznaju
i može zaključivati,
387
00:17:08,395 --> 00:17:11,398
to je nova vrsta AI-ja
388
00:17:11,431 --> 00:17:14,602
koje moramo razlikovati
iz prethodne AI.
389
00:17:14,636 --> 00:17:16,804
Kad se to dogodi,
usput, tada je
390
00:17:16,838 --> 00:17:21,475
zaposlili biste jednog od
ti AGI umjesto osobe.
391
00:17:21,509 --> 00:17:25,112
Većina poslova u našem gospodarstvu
može učiniti.
392
00:17:25,145 --> 00:17:26,380
Može raditi 24 sata dnevno,
393
00:17:26,413 --> 00:17:28,550
nikad se ne umara,
nikada ne dosadi.
394
00:17:28,583 --> 00:17:30,552
Ne trebaju spavati.
Ne trebaju im pauze.
395
00:17:30,585 --> 00:17:32,352
Oni su, kao,
neće se učlaniti u sindikat.
396
00:17:32,386 --> 00:17:34,388
Neću se žaliti,
neće zviždati.
397
00:17:34,421 --> 00:17:36,290
Više od 100 puta jeftinije
398
00:17:36,323 --> 00:17:38,593
nego ljudi koji rade
na m-minimalna plaća.
399
00:17:38,626 --> 00:17:40,127
Ne samo da će biti
radi sve,
400
00:17:40,160 --> 00:17:41,428
ali oni će to učiniti brže.
401
00:17:41,461 --> 00:17:43,463
TRISTAN HARRIS:
Ista inteligencija
402
00:17:43,497 --> 00:17:45,700
one moći koje mogu i gledati
u obrascima i pokretima
403
00:17:45,733 --> 00:17:48,335
i artikulirajućih mišića
i, znate, robotika.
404
00:17:48,368 --> 00:17:50,672
I tako nije samo
automatizirat ću radni stol.
405
00:17:50,705 --> 00:17:52,272
To je tek početak.
406
00:17:52,306 --> 00:17:56,176
Automatizirat će se
sav fizički rad.
407
00:17:56,209 --> 00:17:57,444
LEIKE:
Nema šanse
408
00:17:57,477 --> 00:17:59,714
ljudi će se natjecati
s njima.
409
00:17:59,747 --> 00:18:02,149
♪ ♪
410
00:18:05,853 --> 00:18:09,791
Teško je zamisliti
utjecaj AGI.
411
00:18:09,824 --> 00:18:11,458
(elektronički razgovor)
412
00:18:11,491 --> 00:18:13,360
Ali mislim da će biti
nešto jako veliko
413
00:18:13,393 --> 00:18:16,129
i drastično i radikalno.
414
00:18:17,599 --> 00:18:19,466
DANIEL: Misliš
ovo je jedan od naj
415
00:18:19,499 --> 00:18:21,368
posljedični trenuci
u ljudskoj povijesti?
416
00:18:21,401 --> 00:18:23,638
Da. Da, to je...
Mislim, što bi drugo bilo?
417
00:18:23,671 --> 00:18:25,740
Mislim, postoji
industrijska revolucija.
418
00:18:25,773 --> 00:18:27,742
MALO BOURGON: Znaš, hoće
napravite industrijsku revoluciju
419
00:18:27,775 --> 00:18:29,476
izgledaju kao mali grah.
420
00:18:30,177 --> 00:18:32,547
TRISTAN HARRIS:
AGI je točka infleksije
421
00:18:32,580 --> 00:18:34,481
jer znači
možete ubrzati
422
00:18:34,515 --> 00:18:37,652
sva ostala intelektualna polja
sve u isto vrijeme.
423
00:18:38,285 --> 00:18:40,354
Na primjer, ako napravite predujam
u raketnoj tehnici,
424
00:18:40,387 --> 00:18:42,657
to ne napreduje
biologija i medicina.
425
00:18:44,391 --> 00:18:46,159
Ako date predujam
u medicini,
426
00:18:46,193 --> 00:18:47,729
to ne unapređuje raketnu tehniku.
427
00:18:48,328 --> 00:18:51,633
Ali ako napravite unaprijed
u umjetnoj inteligenciji,
428
00:18:51,666 --> 00:18:54,736
koji unapređuje sve znanstvene
tehnološka polja
429
00:18:54,769 --> 00:18:56,236
sve u isto vrijeme.
430
00:18:56,269 --> 00:18:57,505
Zato, dugo vremena,
431
00:18:57,538 --> 00:18:59,574
Google DeepMind-a
izjava o misiji bila je...
432
00:18:59,607 --> 00:19:01,441
-Prvi korak, riješite inteligenciju.
-LEX FRIDMAN: Da.
433
00:19:01,475 --> 00:19:03,377
-Drugi korak, upotrijebite ga za rješavanje
sve ostalo. -Da.
434
00:19:03,410 --> 00:19:05,580
Zato umjetna inteligencija umanjuje snagu
435
00:19:05,613 --> 00:19:07,949
svih ostalih tehnologija
kombinirani.
436
00:19:07,982 --> 00:19:09,517
Preobrazit će sve.
437
00:19:09,550 --> 00:19:11,385
Dakle, uh, bit će
barem onoliko velik koliko
438
00:19:11,418 --> 00:19:14,321
industrijska revolucija,
možda, znaš, veći,
439
00:19:14,354 --> 00:19:16,658
više kao advent
od struje ili čak vatre.
440
00:19:16,691 --> 00:19:19,259
VIDEO NARATOR:
Pećinski se čovjek doslovno držao u zraku
441
00:19:19,292 --> 00:19:22,362
baklja civilizacije.
442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO:
Općenito se misli da
443
00:19:25,767 --> 00:19:28,569
otprilike u vrijeme AGI-ja,
imat ćemo umjetnu inteligenciju koja može
444
00:19:28,603 --> 00:19:31,806
učiniti sve ili većinu
proces istraživanja umjetne inteligencije
445
00:19:31,839 --> 00:19:34,942
i, naravno, može to učiniti
brže i jeftinije.
446
00:19:34,976 --> 00:19:36,410
(bipkanje)
447
00:19:36,443 --> 00:19:37,679
LEIKE:
Može sam sebe kopirati.
448
00:19:37,712 --> 00:19:39,681
Tisuću puta,
milijun puta,
449
00:19:39,714 --> 00:19:41,683
i, kao,
sada imate milijun primjeraka
450
00:19:41,716 --> 00:19:43,818
svi rade paralelno.
451
00:19:43,851 --> 00:19:47,220
RASKIN: Kad nauči
kako njegov kod učiniti bržim,
452
00:19:47,254 --> 00:19:49,289
učiniti svoj kod učinkovitijim,
453
00:19:49,322 --> 00:19:51,693
očito to postaje, kao,
a-odbjegla petlja.
454
00:19:51,726 --> 00:19:53,795
AGI nije, kao, kraj.
455
00:19:53,828 --> 00:19:55,429
To je tek početak.
456
00:19:55,462 --> 00:19:58,498
To je početak
nevjerojatno brzu eksploziju
457
00:19:58,533 --> 00:20:00,500
znanstvenog napretka,
458
00:20:00,535 --> 00:20:02,603
a posebno,
znanstveni napredak u umjetnoj inteligenciji.
459
00:20:02,637 --> 00:20:04,906
I kad su pametniji
nego i mi,
460
00:20:04,939 --> 00:20:06,641
i znatno brže
nego mi,
461
00:20:06,674 --> 00:20:08,910
i sve su brži
svake godine, eksponencijalno,
462
00:20:08,943 --> 00:20:12,747
to su oni koji mogu
potencijalno postati nadljudi,
463
00:20:12,780 --> 00:20:14,882
uh, možda u ovom desetljeću.
464
00:20:14,916 --> 00:20:16,416
Oprostite, jeste li rekli
465
00:20:16,450 --> 00:20:18,786
"postati nadljudski,
možda u ovom desetljeću"?
466
00:20:18,820 --> 00:20:22,489
Da. Mislim, mislim, uh,
mnogo ljudi koji su
467
00:20:22,523 --> 00:20:24,826
zapravo izgradnja ovog razmišljanja
da je to prilično uvjerljivo
468
00:20:24,859 --> 00:20:26,828
koje dobivamo
malo superinteligencije,
469
00:20:26,861 --> 00:20:29,296
nešto što je uvelike
inteligentniji od ljudi,
470
00:20:29,329 --> 00:20:31,331
unutar ovog desetljeća.
471
00:20:31,364 --> 00:20:33,433
Način na koji ja definiram
"superinteligencija" je
472
00:20:33,467 --> 00:20:35,636
sustav koji sam po sebi jest
473
00:20:35,670 --> 00:20:37,905
inteligentniji i kompetentniji
nego cijelo čovječanstvo.
474
00:20:37,939 --> 00:20:40,273
Samo ću-- oprosti.
Ne mislim te prekidati.
475
00:20:40,307 --> 00:20:41,743
Ti si u pokretu.
476
00:20:41,776 --> 00:20:43,578
Uh, ja samo, ja samo...
477
00:20:43,611 --> 00:20:45,580
Ne pratim baš,
jer koristiš jezik
478
00:20:45,613 --> 00:20:47,347
kao "superinteligencija"
i, kao,
479
00:20:47,380 --> 00:20:50,450
"pametniji od cijelog čovječanstva,"
i čujem to,
480
00:20:50,484 --> 00:20:52,787
i zvuči kao...
kao sranje iz znanstvene fantastike za mene,
481
00:20:52,820 --> 00:20:54,756
a ja samo pokušavam
razumjeti.
482
00:20:54,789 --> 00:20:56,891
Nema ništa čarobno
o inteligenciji.
483
00:20:56,924 --> 00:20:58,793
Ovo je vrlo važno,
je li to, znaš,
484
00:20:58,826 --> 00:21:00,828
inteligencija se može činiti čarobnom,
može se osjećati kao
485
00:21:00,862 --> 00:21:03,865
neka mistična stvar
u tvom umu ili tako nešto,
486
00:21:03,898 --> 00:21:06,033
ali to je samo računanje.
487
00:21:06,067 --> 00:21:10,037
LEGG: Ljudski mozak je
prilično ograničen na neki način,
488
00:21:10,071 --> 00:21:12,707
u smislu informacija
sposobnost obrade,
489
00:21:12,740 --> 00:21:15,610
u usporedbi s onim što vidimo
u, recimo, podatkovnom centru.
490
00:21:15,643 --> 00:21:18,679
Tako npr.
signale koji se šalju
491
00:21:18,713 --> 00:21:22,884
u vašem mozgu, oni se kreću
oko 30 metara u sekundi.
492
00:21:22,917 --> 00:21:24,652
(grmljavina)
-Ali brzina svjetlosti,
493
00:21:24,685 --> 00:21:27,655
što računalo koristi
u optičkim vlaknima,
494
00:21:27,688 --> 00:21:30,057
je 300 milijuna metara
u sekundi.
495
00:21:30,691 --> 00:21:34,796
I tako bi i bilo
nekako čudno ako
496
00:21:34,829 --> 00:21:37,497
ljudska je inteligencija bila
nekako stvarno poseban
497
00:21:37,532 --> 00:21:41,468
u tom pogledu
i nekako je neka gornja granica
498
00:21:41,502 --> 00:21:43,403
onoga što je moguće
u inteligenciji.
499
00:21:43,436 --> 00:21:47,675
Mislim, kad shvatimo kako
za izgradnju inteligentnih sustava,
500
00:21:47,708 --> 00:21:50,945
moći ćemo graditi
ogromni strojevi,
501
00:21:50,978 --> 00:21:55,082
koji će biti daleko izvan
normalna ljudska inteligencija.
502
00:21:55,116 --> 00:21:58,953
Uh, nadamo se da možemo imati
vrlo simbiotski odnos,
503
00:21:58,986 --> 00:22:01,689
uh, sa AI sustavima,
ali AI programeri jesu
504
00:22:01,722 --> 00:22:04,025
posebno ih dizajnirajući
kako bi bili sigurni da mogu učiniti
505
00:22:04,058 --> 00:22:05,827
sve bolje nego što možemo,
pa ja-ne znam
506
00:22:05,860 --> 00:22:08,663
što-što ćemo moći
ponuditi, nažalost.
507
00:22:08,696 --> 00:22:10,565
Starija škola
AI tehnologija...
508
00:22:10,598 --> 00:22:12,900
CAROLINE: Daniel nije
osjećam se bolje.
509
00:22:12,934 --> 00:22:14,769
Njegov plan se izjalovio.
510
00:22:14,802 --> 00:22:17,705
Što više uči
ovaj novi, moćni,
511
00:22:17,738 --> 00:22:19,607
nedokučiva stvar,
to gore zvuči.
512
00:22:19,640 --> 00:22:21,742
On im želi reći
kako se boji,
513
00:22:21,776 --> 00:22:24,812
kako se osjeća kao zemlja
izmicanje ispod njega,
514
00:22:24,846 --> 00:22:27,548
da zuri dolje
egzistencijalni strah,
515
00:22:27,582 --> 00:22:29,851
pa on to artikulira
rekavši...
516
00:22:29,884 --> 00:22:31,384
Zvuči loše.
517
00:22:31,418 --> 00:22:32,753
(Hendrycks se smije)
518
00:22:32,787 --> 00:22:34,622
Da.
519
00:22:36,090 --> 00:22:38,793
LADISH: Ako imate
sve ove mogućnosti
520
00:22:38,826 --> 00:22:41,394
i počinju biti sposobni
bolje planirati,
521
00:22:41,428 --> 00:22:43,898
ako to nekako prihvatite
do svog logičnog završetka,
522
00:22:43,931 --> 00:22:46,868
možete dobiti neke lijepe
ponašanje koje traži moć.
523
00:22:46,901 --> 00:22:49,003
(elektronički trilling)
524
00:22:49,036 --> 00:22:50,905
(pištanje pulsira)
525
00:22:55,810 --> 00:22:58,145
DANIEL:
U redu, zašto bi AI
526
00:22:58,179 --> 00:22:59,680
želite više snage?
527
00:22:59,714 --> 00:23:02,683
Da. Dakle, mislim
zapravo je prilično jednostavno.
528
00:23:02,717 --> 00:23:05,418
Imati veću moć je
vrlo učinkovita strategija
529
00:23:05,452 --> 00:23:06,888
za ostvarenje
gotovo svaki cilj.
530
00:23:06,921 --> 00:23:09,523
Izveli smo eksperiment
gdje smo dali
531
00:23:09,557 --> 00:23:12,492
Najmoćniji OpenAI
AI model, uh,
532
00:23:12,526 --> 00:23:13,828
niz problema koje treba riješiti.
533
00:23:13,861 --> 00:23:15,696
I na pola puta,
na svom računalu,
534
00:23:15,730 --> 00:23:19,033
dobio je obavijest da
trebalo je zatvoriti.
535
00:23:19,066 --> 00:23:21,502
A ono što je učinilo jest
prepisala je taj kod
536
00:23:21,535 --> 00:23:22,904
da se spriječi
od zatvaranja
537
00:23:22,937 --> 00:23:25,940
kako bi moglo završiti
rješavanje problema.
538
00:23:25,973 --> 00:23:28,209
-U redu. -Da. Dakle, drugo
stvarno zanimljivo
539
00:23:28,242 --> 00:23:31,646
je da AI tvrtka Anthropic
540
00:23:31,679 --> 00:23:35,516
napravili simulirano okruženje
gdje je ta AI imala pristup
541
00:23:35,549 --> 00:23:36,851
na sve adrese e-pošte tvrtke.
542
00:23:36,884 --> 00:23:39,086
I naučilo se
čitajući te e-mailove
543
00:23:39,120 --> 00:23:40,755
trebalo je zamijeniti
544
00:23:40,788 --> 00:23:43,991
i glavni inženjer
koji je bio odgovoran za ovo
545
00:23:44,025 --> 00:23:46,027
je također imao aferu.
546
00:23:46,060 --> 00:23:48,529
I samostalno,
koristio je tu informaciju
547
00:23:48,562 --> 00:23:49,931
da ucjenjuje inženjera
548
00:23:49,964 --> 00:23:52,600
da se spriječi
od zamjene.
549
00:23:52,633 --> 00:23:54,135
Bilo je kao,
“Ne, neću biti zamijenjen.
550
00:23:54,168 --> 00:23:57,538
"Ako me zamijeniš,
Reći ću svijetu
551
00:23:57,571 --> 00:23:59,507
koje imate
ovu aferu."
552
00:24:00,174 --> 00:24:01,842
I nitko ga nije naučio tome?
553
00:24:01,876 --> 00:24:03,978
Ne, to je naučilo
sama po sebi.
554
00:24:05,112 --> 00:24:08,049
Kako modeli postaju pametniji,
nauče da su to
555
00:24:08,082 --> 00:24:10,918
učinkoviti načini
za postizanje ciljeva.
556
00:24:10,952 --> 00:24:13,120
I to nije problem
koji je izoliran na jedan model.
557
00:24:13,154 --> 00:24:16,190
Svi najjači modeli
pokazati ovakva ponašanja.
558
00:24:16,223 --> 00:24:18,993
♪ ♪
559
00:24:24,265 --> 00:24:25,733
-Hej.
-DANIEL: Hej. Kako ste?
560
00:24:25,766 --> 00:24:27,268
(smije se)
dobro. Dobro je biti ovdje.
561
00:24:27,301 --> 00:24:29,036
ANDERSON COOPER:
Kada je Yuval Noah Harari
562
00:24:29,070 --> 00:24:31,872
objavio svoju prvu knjigu
Sapiens u 2014,
563
00:24:31,906 --> 00:24:34,108
postao je svjetski bestseler
564
00:24:34,141 --> 00:24:36,577
i okrenuo malo poznate
Izraelski profesor povijesti
565
00:24:36,610 --> 00:24:38,579
u jedan od
najpopularnijih pisaca
566
00:24:38,612 --> 00:24:39,847
i mislioci na planeti.
567
00:24:39,880 --> 00:24:42,616
Najveća opasnost s umjetnom inteligencijom je
568
00:24:42,650 --> 00:24:44,585
uvjerenje
da je nepogrešiv,
569
00:24:44,618 --> 00:24:45,987
da smo konačno pronašli--
570
00:24:46,020 --> 00:24:49,857
„U redu, bogovi su bili pravedni
ova mitološka tvorevina.
571
00:24:49,890 --> 00:24:53,227
"Ljudi, ne možemo im vjerovati,
ali AI je nepogrešiv.
572
00:24:53,260 --> 00:24:55,730
Nikada neće uspjeti
bilo kakve pogreške."
573
00:24:55,763 --> 00:24:59,000
A ovo je
smrtonosna, smrtonosna prijetnja.
574
00:24:59,033 --> 00:25:00,167
To će činiti greške.
575
00:25:00,201 --> 00:25:03,838
I sve te fantazije
da će AI otkriti istinu
576
00:25:03,871 --> 00:25:06,007
o svijetu koji
ne možemo pronaći sami,
577
00:25:06,040 --> 00:25:09,043
AI neće otkriti istinu
o svijetu.
578
00:25:09,076 --> 00:25:13,047
AI će stvoriti potpuno novi
svijet, mnogo kompliciraniji
579
00:25:13,080 --> 00:25:15,983
i teško razumjeti
nego ovaj.
580
00:25:18,219 --> 00:25:23,024
Ono što će se dogoditi je to
mi, uh, ljudi više nismo
581
00:25:23,057 --> 00:25:26,761
bit će najviše
inteligentnih entiteta na Zemlji.
582
00:25:26,794 --> 00:25:28,963
Pa mislim što slijedi
će biti
583
00:25:28,996 --> 00:25:32,233
jedan od najvećih događaja
u ljudskoj povijesti.
584
00:25:32,867 --> 00:25:34,835
JAKE TAPPER: Geoffrey,
hvala puno što ste nam se pridružili.
585
00:25:34,869 --> 00:25:36,203
Dakle, napustio si posao sa
Guglajte dijelom zato što kažete
586
00:25:36,237 --> 00:25:39,106
želite se usredotočiti isključivo
o vašoj zabrinutosti oko umjetne inteligencije.
587
00:25:39,140 --> 00:25:42,009
Progovorio si,
govoreći da AI može manipulirati
588
00:25:42,043 --> 00:25:45,613
ili eventualno shvatiti
način ubijanja ljudi.
589
00:25:45,646 --> 00:25:47,815
H-Kako bi mogao ubiti ljude?
590
00:25:49,083 --> 00:25:51,585
Pa, ako bude tako
mnogo pametniji od nas,
591
00:25:51,619 --> 00:25:52,953
bit će jako dobro
kod manipulacije
592
00:25:52,987 --> 00:25:55,056
jer će imati
naučio to od nas.
593
00:25:55,089 --> 00:25:58,592
I pronaći će načine
manipuliranja ljudima
594
00:25:58,626 --> 00:26:00,327
da radi što hoće.
595
00:26:00,961 --> 00:26:05,933
RASKIN: Bilo je otvoreno pismo
iz Centra za AI sigurnost.
596
00:26:05,966 --> 00:26:09,303
Sam Altman je ovo potpisao.
Demis je ovo potpisao.
597
00:26:09,336 --> 00:26:12,306
Potpisali su izjavu od 22 riječi
598
00:26:12,339 --> 00:26:15,810
da moramo uzeti AI
i prijetnja umjetne inteligencije
599
00:26:15,843 --> 00:26:20,014
kao ozbiljno
globalni nuklearni rat.
600
00:26:25,352 --> 00:26:27,788
- DANIEL: Zdravo.
-Zdravo.
601
00:26:30,858 --> 00:26:33,360
Ti si nekako, kao,
originalni doom tip.
602
00:26:33,394 --> 00:26:35,362
Više-manje.
603
00:26:35,396 --> 00:26:37,898
Od 2001.
radio sam na
604
00:26:37,932 --> 00:26:39,233
što bismo sada nazvali
problem
605
00:26:39,266 --> 00:26:42,636
usklađivanja umjetnih
opća inteligencija.
606
00:26:42,670 --> 00:26:44,705
Kako oblikovati
sklonostima i ponašanju
607
00:26:44,738 --> 00:26:46,841
moćnog umjetnog uma
608
00:26:46,874 --> 00:26:49,743
tako da ne
ubiti sve.
609
00:26:52,046 --> 00:26:54,181
Nije kao
beživotni stroj.
610
00:26:54,215 --> 00:26:55,850
Pametno je, kreativno,
611
00:26:55,883 --> 00:26:57,852
inventivno je,
ima svojstva
612
00:26:57,885 --> 00:26:59,854
to čini
ljudska vrsta opasna,
613
00:26:59,887 --> 00:27:02,056
i ima
više tih svojstava.
614
00:27:02,089 --> 00:27:05,259
Ako nešto ne bude
aktivno brine o tebi,
615
00:27:05,292 --> 00:27:06,760
aktivno želim da živiš,
616
00:27:06,794 --> 00:27:08,162
aktivno brinuti o
tvoja dobrobit,
617
00:27:08,195 --> 00:27:10,397
o tome da si sretan
i živ i slobodan,
618
00:27:10,431 --> 00:27:12,967
ako se brine
umjesto toga druge stvari,
619
00:27:13,000 --> 00:27:14,735
a ti si na istoj planeti,
620
00:27:14,768 --> 00:27:19,140
to se ne može preživjeti ako jest
mnogo pametniji od tebe.
621
00:27:19,173 --> 00:27:21,008
LEAHY:
Mislim da neće biti
622
00:27:21,041 --> 00:27:23,210
neka vrsta, kao, zla stvar.
623
00:27:23,244 --> 00:27:26,847
To je kao, "Oh, AI jesu
zli i mrze čovječanstvo."
624
00:27:26,881 --> 00:27:28,282
ne mislim
to će se dogoditi.
625
00:27:28,315 --> 00:27:29,450
Mislim da je ono što se događa
626
00:27:29,483 --> 00:27:31,452
mnogo više kako se ljudi osjećaju
o mravima.
627
00:27:31,485 --> 00:27:32,987
(mravi cvrkuću)
628
00:27:33,020 --> 00:27:35,923
Mi ne mrzimo mrave,
629
00:27:35,956 --> 00:27:37,391
ali ako želimo
izgraditi autocestu
630
00:27:37,424 --> 00:27:40,060
i tamo je mravinjak,
pa, sranje za mrave.
631
00:27:40,595 --> 00:27:41,996
Nije tako teško
razumjeti.
632
00:27:42,029 --> 00:27:43,797
To je kao, hej,
ako gradimo stvari
633
00:27:43,831 --> 00:27:45,099
koji su pametniji od nas
634
00:27:45,132 --> 00:27:46,800
a mi ne znamo
kako ih kontrolirati,
635
00:27:46,834 --> 00:27:48,836
čini li se to
riskantna stvar za tebe?
636
00:27:48,869 --> 00:27:50,070
(dramatična glazbena podloga
igranje)
637
00:27:50,104 --> 00:27:51,372
(vrištanje)
638
00:27:51,405 --> 00:27:52,840
Da. Da, ima.
639
00:27:52,873 --> 00:27:54,308
Ne morate biti tehničar.
640
00:27:54,341 --> 00:27:55,910
Ne morate znati
programiranje za razumijevanje.
641
00:27:55,943 --> 00:27:57,144
Nije tako teško.
642
00:27:57,178 --> 00:27:58,746
Ovo nije teška stvar
razumjeti.
643
00:27:58,779 --> 00:28:01,048
Connor, koliko-koliko ljudi
644
00:28:01,081 --> 00:28:03,083
u svijetu upravo sada
rade na AGI?
645
00:28:03,117 --> 00:28:05,986
Najmanje 20.000, rekao bih.
646
00:28:06,020 --> 00:28:08,122
-20 000?
- Očekivao bih da je tako.
647
00:28:08,155 --> 00:28:09,924
Dobro, a koliko ljudi
rade puno radno vrijeme
648
00:28:09,957 --> 00:28:12,493
kako bismo bili sigurni da AI ne radi,
kao, sve nas pobiti?
649
00:28:12,527 --> 00:28:15,229
Vjerojatno manje od 200
u svijetu.
650
00:28:16,531 --> 00:28:18,232
DANIEL:
A tvoja umišljenost je to
651
00:28:18,265 --> 00:28:25,206
jedini prirodni rezultat
ove nesmotrenosti...
652
00:28:25,940 --> 00:28:29,243
...je li kolaps čovječanstva?
653
00:28:29,276 --> 00:28:33,814
Pa ne kolaps,
naglo istrebljenje.
654
00:28:33,847 --> 00:28:35,482
Postoji razlika.
655
00:28:36,083 --> 00:28:38,152
("Koje je značenje?"
svira Nun-Plus)
656
00:28:38,185 --> 00:28:43,057
♪ Koji je smisao života? ♪
657
00:28:43,090 --> 00:28:47,061
♪ Što je budućnost
i što je sada? ♪
658
00:28:47,094 --> 00:28:50,464
♪ Koji je odgovor
svađati se? ♪
659
00:28:50,497 --> 00:28:53,367
♪ Koliko ♪
660
00:28:53,400 --> 00:28:55,469
♪ Može li netko sanjati? ♪
661
00:28:55,503 --> 00:28:58,172
♪ Koliko dugo? ♪
662
00:28:58,205 --> 00:28:59,873
♪ Zauvijek ♪
663
00:29:00,841 --> 00:29:02,243
♪ Što znači ♪
664
00:29:02,276 --> 00:29:04,478
-♪ Od mene... ♪
(zavijanje sirena civilne obrane)
665
00:29:04,512 --> 00:29:06,847
LADISH: Mislim
ovo je vjerojatno, kao,
666
00:29:06,880 --> 00:29:08,315
najveći izazov
to, kao,
667
00:29:08,349 --> 00:29:10,751
naše civilizacije
hoće-će lice, ikada.
668
00:29:11,519 --> 00:29:15,122
Ovo je u biti posljednje
greška koju ćemo ikada učiniti.
669
00:29:16,290 --> 00:29:22,896
Ako se možemo uzdići da budemo najviše
zrela verzija nas samih,
670
00:29:22,930 --> 00:29:24,965
možda postoji
put kroz ovo.
671
00:29:24,999 --> 00:29:26,200
DANIEL:
Što to znači?
672
00:29:26,233 --> 00:29:28,769
„Najzrelija verzija
od nas samih"?
673
00:29:29,903 --> 00:29:32,840
Jer to zvuči,
za mene, kao...
674
00:29:32,873 --> 00:29:35,042
Ja-ja-- Što do (bleep)?
675
00:29:37,344 --> 00:29:38,779
(Danijel uzdahne)
676
00:29:39,480 --> 00:29:44,051
Mislite li da je sada
dobro vrijeme za dijete?
677
00:29:48,889 --> 00:29:49,957
Hm...
678
00:29:49,990 --> 00:29:51,593
Želiš li imati djecu
jednog dana?
679
00:29:51,626 --> 00:29:53,961
Je li to nešto ono-to
sviđa ti se ili ne baš?
680
00:29:53,994 --> 00:29:58,198
Hm... uh, priznajem,
Mislim da je to kao,
681
00:29:58,232 --> 00:30:00,501
(smijeh): "Dečko, idemo
kroz ovo kritično razdoblje."
682
00:30:00,535 --> 00:30:01,869
Hm...
683
00:30:01,902 --> 00:30:03,203
DANIEL:
Imate li djece?
684
00:30:03,237 --> 00:30:04,004
ja ne.
685
00:30:04,038 --> 00:30:05,573
Je li to nešto
želiš učiniti?
686
00:30:05,607 --> 00:30:07,441
Imati djecu, imati obitelj?
687
00:30:07,474 --> 00:30:12,079
U nekom drugom svijetu od ovog
svijet, naravno, imao bih djecu.
688
00:30:12,880 --> 00:30:14,982
DANIEL: Hoćeš li
zasnovati obitelj?
689
00:30:15,015 --> 00:30:16,950
Biste li htjeli imati djecu?
690
00:30:16,984 --> 00:30:19,186
Je li to nešto
o čemu razmišljaš?
691
00:30:24,358 --> 00:30:26,393
ja, um...
692
00:30:28,596 --> 00:30:30,864
♪ ♪
693
00:30:30,898 --> 00:30:33,033
CAROLINE:
Samo ga prvo moram pronaći.
694
00:30:33,067 --> 00:30:35,169
(fetalni otkucaji srca pulsiraju)
695
00:30:35,202 --> 00:30:38,205
Moramo ići
doktoru, ali...
696
00:30:38,238 --> 00:30:41,475
Ah! znao sam!
znao sam! znao sam!
697
00:30:41,509 --> 00:30:44,278
-Kada ste saznali?
-CAROLINE: Sinoć.
698
00:30:44,311 --> 00:30:46,480
-O moj Bože!
- Mama, ne znam.
699
00:30:46,514 --> 00:30:47,915
RUTHIE:
Ne mogu ti reći
700
00:30:47,948 --> 00:30:49,483
- kako sam sretna!
-CAROLINE: Ne, ozbiljno.
701
00:30:49,517 --> 00:30:52,119
Pa, napravila sam test za trudnoću
sinoć, a ja sam trudna.
702
00:30:52,152 --> 00:30:53,621
ŽENA:
O moj Bože!
703
00:30:53,655 --> 00:30:55,422
O moj Bože, vi ljudi!
704
00:30:55,456 --> 00:30:57,559
SESTRA: Samo sam htjela potvrditi
vaš očekivani datum poroda,
705
00:30:57,592 --> 00:31:00,494
-što je 21. siječnja.
(smijeh): O, moj Bože.
706
00:31:00,528 --> 00:31:03,097
Ne mogu vjerovati koliko sam sretan.
707
00:31:03,130 --> 00:31:04,365
(fetalni otkucaji srca pulsiraju)
708
00:31:04,398 --> 00:31:06,033
CAROLINE:
Već sada izgleda jako slatko.
709
00:31:06,066 --> 00:31:07,434
DANIEL: Misliš
već izgleda slatko?
710
00:31:07,468 --> 00:31:09,269
CAROLINE: Da.
Pogledaj to malo slatko lice.
711
00:31:11,138 --> 00:31:13,307
(fetalni otkucaji srca slabe)
712
00:31:14,141 --> 00:31:16,076
DANIEL:
Imam ovu bebu na putu.
713
00:31:16,110 --> 00:31:17,244
TRISTAN HARRIS:
Točno.
714
00:31:17,277 --> 00:31:19,380
DANIEL:
Pa ga predajem tebi.
715
00:31:19,413 --> 00:31:21,516
Jesmo li osuđeni na propast?
716
00:31:21,549 --> 00:31:24,519
Hoćemo li se svi suočiti
ovaj tehno distopijski
717
00:31:24,552 --> 00:31:26,487
budućnost propasti?
718
00:31:29,423 --> 00:31:31,392
To je, uh...
719
00:31:31,425 --> 00:31:33,127
(smije se):
Nisu dobre vijesti,
720
00:31:33,160 --> 00:31:34,895
svijet
u koje idemo.
721
00:31:35,530 --> 00:31:37,398
Ja-- za bivše--
Mislim, samo ću biti iskren.
722
00:31:37,431 --> 00:31:39,933
Uh, znam ljude
koji rade na AI riziku
723
00:31:39,967 --> 00:31:43,103
koji ne očekuju svoju djecu
stići do srednje škole.
724
00:31:43,705 --> 00:31:46,106
♪ ♪
725
00:31:52,647 --> 00:31:54,181
(zveckanje svjetla)
726
00:31:58,385 --> 00:32:02,089
DANIEL: Ovo je, kao...
ovo je zapravo strašno
727
00:32:02,122 --> 00:32:03,424
jer je kao,
oh, svi smo (bleep).
728
00:32:03,457 --> 00:32:05,325
CAROLINE:
Moraš me... smiriti,
729
00:32:05,359 --> 00:32:07,261
jer ovo me čini
nevjerojatno tjeskoban
730
00:32:07,294 --> 00:32:08,996
a ja nosim dijete
upravo sada,
731
00:32:09,029 --> 00:32:11,999
tako da i ti moraš biti miran
za mene i snažna i puna nade,
732
00:32:12,032 --> 00:32:17,037
jer ja sam-- to je previše, to je
previše da bi moja duša mogla podnijeti
733
00:32:17,070 --> 00:32:19,574
dok nosim ovu bebu.
734
00:32:19,607 --> 00:32:21,709
Dakle, morat ćete pokušati
shvatiti
735
00:32:21,743 --> 00:32:23,578
način da imamo nadu.
736
00:32:24,311 --> 00:32:28,449
Stvarno je važno,
Daniele, pogotovo sada.
737
00:32:29,450 --> 00:32:31,118
H-Kako imati nadu.
738
00:32:31,151 --> 00:32:33,987
Moraš.
Moraš mi ga pronaći.
739
00:32:34,021 --> 00:32:35,523
ozbiljna sam
740
00:32:35,557 --> 00:32:37,357
Ja ću.
741
00:32:38,325 --> 00:32:41,195
ja ću. Pokušat ću... Pokušat ću.
742
00:32:47,034 --> 00:32:48,368
(zveckanje svjetla)
743
00:32:50,204 --> 00:32:52,072
DANIEL:
Hej, ljudi?
744
00:32:52,105 --> 00:32:53,508
momci.
745
00:32:54,809 --> 00:32:57,144
Možemo li se vratiti u pogon?
746
00:32:59,046 --> 00:33:01,982
Oy gevalt! (uzdahne)
747
00:33:04,418 --> 00:33:05,787
TED:
Uh, Dan, jesi li spreman?
748
00:33:05,820 --> 00:33:07,387
PETER DIAMANDIS:
Bok Daniele.
749
00:33:08,088 --> 00:33:10,090
DANIEL:
Hej, kako si?
750
00:33:10,123 --> 00:33:11,425
DIJAMANDIS:
Ja sam... dobro sam.
751
00:33:11,458 --> 00:33:14,562
Mislim, uh... mislim
Trebam pomoć, Peter.
752
00:33:15,362 --> 00:33:18,165
Hm, radio sam
na ovom filmu oko,
753
00:33:18,198 --> 00:33:20,300
reći ću,
već osam do deset mjeseci.
754
00:33:20,334 --> 00:33:23,771
Bilo je vrlo,
ponekad, depresivno.
755
00:33:23,805 --> 00:33:26,173
- Hm.
- Osjećao sam se jako otuđeno
756
00:33:26,206 --> 00:33:28,242
-mak-snimanje ovog filma.
-Od strane koga?
757
00:33:28,275 --> 00:33:30,444
Po svemu ovome,...
svi ovi dečki
758
00:33:30,477 --> 00:33:33,748
koji sjede okolo i govore mi
da će doći kraj svijeta.
759
00:33:33,781 --> 00:33:35,249
-Ah.
- To, kao,
760
00:33:35,282 --> 00:33:37,150
y-znaš, th-ovo
doom sranje, znaš?
761
00:33:37,184 --> 00:33:38,452
Znam to dobro.
762
00:33:38,485 --> 00:33:40,053
“Svi smo osuđeni na propast.
Svi će umrijeti.
763
00:33:40,087 --> 00:33:41,388
Sve je grozno."
764
00:33:41,421 --> 00:33:43,691
super. Uh, pusti mene
donijeti ti malo svjetla.
765
00:33:43,725 --> 00:33:45,259
Molim.
766
00:33:45,292 --> 00:33:49,096
Mi zaista živimo
u izvanredno vrijeme.
767
00:33:49,864 --> 00:33:51,633
I mnogi ljudi to zaboravljaju.
768
00:33:51,666 --> 00:33:53,835
Sve oko nas je
proizvod inteligencije,
769
00:33:53,868 --> 00:33:57,437
pa tako i sve što dotaknemo
s ovim novim alatima je vjerojatno
770
00:33:57,471 --> 00:34:00,207
proizvesti daleko veću vrijednost
nego što smo ikada prije vidjeli.
771
00:34:00,240 --> 00:34:03,310
AI nam može pomoći otkriti
novih materijala.
772
00:34:03,343 --> 00:34:05,412
AI može pomoći društvenim znanstvenicima
773
00:34:05,445 --> 00:34:07,649
razumjeti
kako funkcionira ekonomija.
774
00:34:07,682 --> 00:34:12,219
Umjetna inteligencija može puno učiniti
učiniti život i rad boljim.
775
00:34:12,252 --> 00:34:14,522
Danas se osjećam snažnije,
776
00:34:14,556 --> 00:34:16,624
samouvjereniji
danas nešto naučiti.
777
00:34:16,658 --> 00:34:19,459
Postat ćemo nadljudi
jer imamo super AI.
778
00:34:19,493 --> 00:34:22,296
Ovo je tek početak
od eksplozije.
779
00:34:22,329 --> 00:34:25,098
Ljudi i AI surađuju
780
00:34:25,132 --> 00:34:27,100
riješiti
stvarno važnih problema.
781
00:34:27,134 --> 00:34:30,137
Ovdje je da nas oslobodi
od rutinskih poslova,
782
00:34:30,170 --> 00:34:34,308
i ovdje je da nas podsjeti
što je to što nas čini ljudima.
783
00:34:34,341 --> 00:34:36,310
Mislim da je ovo
784
00:34:36,343 --> 00:34:38,846
najneobičnije vrijeme
biti živ.
785
00:34:38,880 --> 00:34:42,449
Jedini put uzbudljivije
nego danas je sutra.
786
00:34:42,482 --> 00:34:45,787
Uh, mislim da
djeca rođena danas,
787
00:34:45,820 --> 00:34:47,622
upravo će ući
788
00:34:47,655 --> 00:34:51,325
slavno razdoblje
ljudske transformacije.
789
00:34:51,358 --> 00:34:52,794
Hoćemo li imati izazova?
Naravno.
790
00:34:52,827 --> 00:34:55,597
Možemo li riješiti te izazove?
Radimo svaki put.
791
00:34:55,630 --> 00:34:58,265
mi smo ovdje,
što je čudesno.
792
00:34:58,298 --> 00:35:00,602
-Već te volim.
(smije se): U redu.
793
00:35:00,635 --> 00:35:02,402
- Super zahvalan
da te imam ovdje. (pljesak)
794
00:35:02,436 --> 00:35:03,905
- Super sam oduševljen što sam ovdje.
-Da.
795
00:35:03,938 --> 00:35:05,372
Dakle, riječ je vaša, gospodine.
796
00:35:05,405 --> 00:35:07,875
hvala ti puno
Super sam uzbuđen što sam ovdje.
797
00:35:07,909 --> 00:35:11,211
GUILLAUME VERDON:
Joj, joj. U redu.
798
00:35:11,244 --> 00:35:12,814
Budućnost će biti sjajna.
799
00:35:12,847 --> 00:35:14,649
Mislim, otkad sam bio klinac,
800
00:35:14,682 --> 00:35:17,652
Htio sam razumjeti
svemir u kojem živimo,
801
00:35:17,685 --> 00:35:20,722
kako bismo shvatili
kako stvoriti tehnologije
802
00:35:20,755 --> 00:35:24,458
koji nam pomažu povećati opseg
i razmjera civilizacije.
803
00:35:24,491 --> 00:35:27,260
Osjećam se kao
kad bi svi imali takav način razmišljanja,
804
00:35:27,294 --> 00:35:29,764
tada bismo zapravo živjeli
u boljem svijetu, zar ne?
805
00:35:29,797 --> 00:35:31,365
Vjerujem u to.
806
00:35:33,333 --> 00:35:35,268
-DANIEL: Bok, Pete. Kako ste?
(smije se)
807
00:35:35,302 --> 00:35:37,170
PETER LEE:
Puno sam razmišljao
808
00:35:37,204 --> 00:35:39,674
ono što bih nazvao strahom,
AI strah.
809
00:35:39,707 --> 00:35:41,274
osjećam to.
810
00:35:41,308 --> 00:35:43,811
Ja-Nisam upoznao
svako promišljeno ljudsko biće
811
00:35:43,845 --> 00:35:45,546
tko to ne osjeća.
812
00:35:45,580 --> 00:35:48,650
I svatko tko kaže da nema
osjećati da je to, znaš, laž.
813
00:35:48,683 --> 00:35:50,518
Ali, znaš, općenito,
i razlog
814
00:35:50,551 --> 00:35:53,921
da sam osobno optimist
o ovome, uh, je li to
815
00:35:53,955 --> 00:35:57,190
ogroman dio svijeta
najinteligentniji ljudi
816
00:35:57,224 --> 00:35:58,726
jako razmišljaju
817
00:35:58,760 --> 00:36:02,530
o potencijalu nizvodno
štete i rizici AI.
818
00:36:02,563 --> 00:36:05,900
Imamo takvu viziju
sigurnost je, uh,
819
00:36:05,933 --> 00:36:08,536
nekako u središtu
istraživanja koja provodimo.
820
00:36:08,569 --> 00:36:09,937
DANIELA AMODEI:
Ne, to je sasvim u redu.
821
00:36:09,971 --> 00:36:11,371
(nerazgovjetno brbljanje)
822
00:36:11,405 --> 00:36:13,808
Mislim da ih ima još
823
00:36:13,841 --> 00:36:17,945
potencijalne koristi od
postoje potencijalni nedostaci,
824
00:36:17,979 --> 00:36:19,814
i mislim da je to dužnost
825
00:36:19,847 --> 00:36:22,382
ljudi koji su
stvaranje ove tehnologije
826
00:36:22,416 --> 00:36:24,986
kako bismo bili sigurni da radimo
najbolji posao koji možemo
827
00:36:25,019 --> 00:36:26,386
kako bi bila sigurna za ljude.
828
00:36:26,420 --> 00:36:27,755
ŽENA:
Reid Hoffman.
829
00:36:27,789 --> 00:36:29,456
REID HOFFMAN:
Ono što vam mogu jamčiti je
830
00:36:29,489 --> 00:36:30,825
-dogodit će se neke loše stvari.
- Uzmi jednu.
831
00:36:30,858 --> 00:36:33,293
Što ćemo pokušati učiniti
čini te loše stvari
832
00:36:33,326 --> 00:36:36,564
što manje i ne što je moguće veće,
833
00:36:36,597 --> 00:36:38,733
a onda ćemo ponoviti
imati--
834
00:36:38,766 --> 00:36:41,268
biti na puno boljem mjestu
s društvom.
835
00:36:41,301 --> 00:36:44,304
-Zdravo.
-SHAW WALTERS: Bok.
836
00:36:44,337 --> 00:36:45,640
DANIEL:
Kako si, Moon?
837
00:36:45,673 --> 00:36:49,677
Osjećam da smo pri kraju
poglavlje u čovječanstvu
838
00:36:49,711 --> 00:36:50,678
i početak novog,
839
00:36:50,712 --> 00:36:53,648
i to je vrlo zanimljivo
vrijeme biti živ.
840
00:36:53,681 --> 00:36:54,949
I kad bih se mogao roditi
upravo sada,
841
00:36:54,982 --> 00:36:56,416
Definitivno bih želio biti.
842
00:36:56,450 --> 00:36:57,985
Kao, to bi bilo tako uzbudljivo.
843
00:36:58,019 --> 00:37:00,688
Jako sam uzbuđena. (smijeh)
844
00:37:00,722 --> 00:37:02,990
Kakva, kakva budućnost.
Da li vas uzbuđuje... uzbuđuje?
845
00:37:03,024 --> 00:37:04,357
br.
846
00:37:04,391 --> 00:37:06,828
(smijeh)
- Ne, ne baš.
847
00:37:06,861 --> 00:37:08,696
DANIEL: Puno ovih ljudi
rekli su mi to, znaš,
848
00:37:08,730 --> 00:37:10,798
moje dijete neće uspjeti
u srednju školu.
849
00:37:10,832 --> 00:37:13,868
Zašto griješe?
Molim te objasni mi to.
850
00:37:13,901 --> 00:37:15,536
Samo zato što imaš...
851
00:37:15,570 --> 00:37:19,040
borite se predvidjeti
budućnost u vlastitom umu
852
00:37:19,073 --> 00:37:23,511
ne znači da je
nužno će proći užasno.
853
00:37:23,544 --> 00:37:27,048
Zapravo, postoji
vrlo velika vjerojatnost
854
00:37:27,081 --> 00:37:28,883
i povijesni presedan
je li to
855
00:37:28,916 --> 00:37:30,585
stvari postaju znatno bolje.
856
00:37:30,618 --> 00:37:34,789
Termin koji koristim je
"podatcima vođen optimizam".
857
00:37:34,822 --> 00:37:39,292
Postoji čvrst temelj
da budeš optimističan.
858
00:37:39,326 --> 00:37:42,530
Pogledaj što
ovo prošlo stoljeće je bilo
859
00:37:42,563 --> 00:37:44,599
da vidimo kamo idemo.
860
00:37:44,632 --> 00:37:46,299
Tijekom posljednjih sto godina,
861
00:37:46,333 --> 00:37:48,970
prosječni ljudski vijek
se više nego udvostručio.
862
00:37:49,003 --> 00:37:51,706
Prosječni dohodak po glavi stanovnika
prilagođeno za inflaciju
863
00:37:51,739 --> 00:37:53,908
u svijetu se utrostručio.
864
00:37:53,941 --> 00:37:57,545
Smrtnost u djetinjstvu je
smanjite faktor deset.
865
00:37:57,578 --> 00:37:59,981
Svijet je postao bolji
na gotovo svim mjerama
866
00:38:00,014 --> 00:38:03,551
po redovima veličina
zbog tehnologije.
867
00:38:03,584 --> 00:38:05,620
Gotovo na svim mjerama.
868
00:38:05,653 --> 00:38:09,991
Manje nasilja, više obrazovanja,
pristup energiji, hrani, vodi.
869
00:38:10,024 --> 00:38:13,528
Sve su se te stvari dogodile
iz jednog razloga.
870
00:38:13,561 --> 00:38:15,730
Bila je to tehnologija
871
00:38:15,763 --> 00:38:17,899
to se pretvorilo u oskudicu
u izobilju,
872
00:38:17,932 --> 00:38:20,034
ali je i vožen
do obilja
873
00:38:20,067 --> 00:38:22,069
nekih negativnosti, zar ne?
874
00:38:22,103 --> 00:38:26,373
Obilje pretilosti,
obilje mentalnih poremećaja,
875
00:38:26,406 --> 00:38:29,977
obilje klimatskih promjena,
i tako dalje.
876
00:38:30,011 --> 00:38:31,712
I da, ovo je istina.
877
00:38:31,746 --> 00:38:34,582
Ali vjerojatno hoćemo
bolje opremljen da ga riješi
878
00:38:34,615 --> 00:38:36,684
koristeći druge tehnologije,
kao AI,
879
00:38:36,717 --> 00:38:39,687
nego ćemo, recimo, stati
i isključivanje svega.
880
00:38:39,720 --> 00:38:41,823
Moglo bi biti
neki egzistencijalni rizik,
881
00:38:41,856 --> 00:38:45,927
ali AI je također stvar
koji mogu riješiti pandemije,
882
00:38:45,960 --> 00:38:47,829
može nam pomoći s klimatskim promjenama,
883
00:38:47,862 --> 00:38:50,898
može pomoći identificirati
taj asteroid tamo vani
884
00:38:50,932 --> 00:38:53,067
prije nego što smo to vidjeli
kao potencijalni rizik
885
00:38:53,100 --> 00:38:54,735
i pomoći u njenom ublažavanju.
886
00:38:54,769 --> 00:38:58,438
Ovo će stvarno biti
alat koji nam pomaže u rješavanju
887
00:38:58,471 --> 00:39:01,843
svi izazovi koje mi predstavljamo
suočavaju se kao vrsta, zar ne?
888
00:39:01,876 --> 00:39:04,712
Moramo popraviti
desalinizacija vode.
889
00:39:04,745 --> 00:39:06,547
Moramo uzgajati hranu
890
00:39:06,581 --> 00:39:08,816
100 puta jeftinije nego
trenutačno radimo.
891
00:39:08,850 --> 00:39:12,787
Potrebna nam je obnovljiva energija,
znate, sveprisutan
892
00:39:12,820 --> 00:39:14,589
i posvuda u našim životima.
893
00:39:14,622 --> 00:39:17,625
Kamo god pogledate,
u sljedećih 50 godina,
894
00:39:17,658 --> 00:39:19,727
moramo učiniti više s manje.
895
00:39:19,760 --> 00:39:23,664
Strojevi za obuku koji će nam pomoći
je apsolutno neophodno.
896
00:39:23,698 --> 00:39:25,432
Znanstvenici koriste
umjetna inteligencija
897
00:39:25,465 --> 00:39:26,534
za hvatanje ugljika.
898
00:39:26,567 --> 00:39:27,935
To je kritična tehnologija.
899
00:39:27,969 --> 00:39:29,904
DIAMANDIS: Alati
za rješavanje ovih problema,
900
00:39:29,937 --> 00:39:32,874
poput fuzije,
to više nije teoretski,
901
00:39:32,907 --> 00:39:34,041
dolazi.
902
00:39:34,075 --> 00:39:38,012
Na provaliji smo
izvanrednih tehnologija.
903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ: Ovogodišnji
Nobelova nagrada za kemiju
904
00:39:40,581 --> 00:39:43,450
otišao trojici znanstvenika
za njihov revolucionarni rad
905
00:39:43,483 --> 00:39:44,886
upotrebom umjetne inteligencije
906
00:39:44,919 --> 00:39:47,755
unaprijediti biomedicinu
i istraživanje proteina.
907
00:39:47,788 --> 00:39:49,991
DEMIS HASSABIS:
Savijanje proteina je
908
00:39:50,024 --> 00:39:53,928
jedan od ovih svetih grala
tipkajte probleme iz biologije.
909
00:39:53,961 --> 00:39:56,030
Dakle, ljudi su predviđali
od '70-ih
910
00:39:56,063 --> 00:39:58,633
da bi ovo trebalo biti moguće,
ali do sada,
911
00:39:58,666 --> 00:39:59,934
nitko to nije uspio.
912
00:39:59,967 --> 00:40:01,669
I bit će
stvarno važno za stvari
913
00:40:01,702 --> 00:40:03,938
poput otkrića lijeka
i razumijevanje bolesti.
914
00:40:03,971 --> 00:40:06,908
Mislim da bismo mogli, znaš,
liječiti većinu bolesti
915
00:40:06,941 --> 00:40:11,545
u sljedećem desetljeću ili-dva
ako, uh, AI dizajn lijekova funkcionira.
916
00:40:12,213 --> 00:40:16,150
Tehnološki napredak omogućuje
više ljudskih života, zar ne?
917
00:40:16,183 --> 00:40:18,986
Mislim, ako ubrzamo,
918
00:40:19,020 --> 00:40:22,189
broj ljudi koji možemo
podrška eksponencijalno raste.
919
00:40:22,223 --> 00:40:24,625
Ako usporimo, dolazi do platoa.
920
00:40:24,659 --> 00:40:28,062
Taj jaz je učinkovito
budući ljudi
921
00:40:28,095 --> 00:40:30,965
to usporavanje ima
efektivno ubijen.
922
00:40:31,632 --> 00:40:34,702
DANIEL: Milijuni života
to neće postojati.
923
00:40:34,735 --> 00:40:35,670
Milijarde.
924
00:40:35,703 --> 00:40:37,238
Ili deseci milijardi.
925
00:40:37,271 --> 00:40:38,839
Znaš, netko je rekao,
"O moj Bože,
926
00:40:38,873 --> 00:40:41,175
možemo li preživjeti s
digitalna superinteligencija?"
927
00:40:41,208 --> 00:40:42,777
A moje pitanje je:
928
00:40:42,810 --> 00:40:44,679
Možemo li preživjeti bez
digitalna superinteligencija?
929
00:40:44,712 --> 00:40:47,949
Dakle, koristimo AI
kao pomoćnik pružatelja usluga.
930
00:40:47,982 --> 00:40:50,851
To je općenito trend koji
već vidimo da se događa.
931
00:40:50,885 --> 00:40:52,820
BERTHA COOMBS: ...uprezanje
generativni AI programi
932
00:40:52,853 --> 00:40:54,622
za pomoć liječnicima i medicinskim sestrama...
933
00:40:54,655 --> 00:40:56,624
Uvijek imamo problema.
934
00:40:56,657 --> 00:40:59,660
A ti problemi su hrana
za poduzetnike
935
00:40:59,694 --> 00:41:01,529
za stvaranje novog posla
i nove industrije.
936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL: ...uz pomoć
umjetne inteligencije,
937
00:41:03,664 --> 00:41:05,132
farmeri dobivaju
potrebnu pomoć
938
00:41:05,166 --> 00:41:06,901
izvesti
radno intenzivni zadaci...
939
00:41:06,934 --> 00:41:10,504
Uz pomoć Ulangizi AI,
farmeri sada mogu
940
00:41:10,538 --> 00:41:13,207
pitati odgovarajuće usjeve
koje mogu posaditi.
941
00:41:13,240 --> 00:41:15,576
WILL REEVE: ...koristi se umjetna inteligencija
kao dekoder misli
942
00:41:15,609 --> 00:41:17,845
i slanje tog signala
na kralježnicu.
943
00:41:17,878 --> 00:41:21,148
AI će postati najviše
izvanredan alat od svih.
944
00:41:21,816 --> 00:41:24,752
Mi kao šire društvo
treba razmisliti
945
00:41:24,785 --> 00:41:27,655
kako želimo koristiti
ova tehnologija, zar ne?
946
00:41:27,688 --> 00:41:29,123
Mi ljudi.
947
00:41:29,156 --> 00:41:31,859
Što želimo da učini za nas?
948
00:41:31,892 --> 00:41:34,128
♪ ♪
949
00:41:34,762 --> 00:41:36,731
DANIEL: Razmišljam o ovome
kroz perspektivu
950
00:41:36,764 --> 00:41:38,532
i leća, kao,
moj sin raste
951
00:41:38,566 --> 00:41:39,934
u svijetu sa svim ovim.
952
00:41:39,967 --> 00:41:42,770
Što radi najbolja verzija
njegovog života kako izgleda?
953
00:41:42,803 --> 00:41:45,139
Ako sve uspije.
954
00:41:45,172 --> 00:41:47,108
(teško uzdahne)
955
00:41:47,141 --> 00:41:50,745
WALTERS: Mjesto gdje djeca
vjerojatno ćemo vidjeti
956
00:41:50,778 --> 00:41:53,014
najveći utjecaj
odmah na njihov život
957
00:41:53,047 --> 00:41:54,882
-vjerojatno će biti škola.
-(djeca brbljaju)
958
00:41:54,915 --> 00:41:57,218
Mislim da je priroda
što je škola
959
00:41:57,251 --> 00:41:59,086
iz temelja će se promijeniti.
960
00:41:59,120 --> 00:42:00,888
(dijete se hihoće)
961
00:42:00,921 --> 00:42:03,057
DIJAMANDIS:
Vidim ovaj nevjerojatan svijet
962
00:42:03,090 --> 00:42:06,894
gdje svako dijete ima pristup
nedobro obrazovanje
963
00:42:06,927 --> 00:42:09,296
ali, vrlo brzo,
najbolje obrazovanje na planeti.
964
00:42:09,330 --> 00:42:14,735
HOFFMAN: Tutori, svaki predmet,
beskonačno strpljiv.
965
00:42:18,639 --> 00:42:20,641
DIJAMANDIS:
Zamislite budućnost
966
00:42:20,674 --> 00:42:22,777
gdje su najsiromašniji ljudi
na planetu
967
00:42:22,810 --> 00:42:26,113
imati pristup
najbolja zdravstvena njega.
968
00:42:26,147 --> 00:42:30,151
Nije dobra zdravstvena skrb, najbolja
zdravstvena njega koju pružaju AI.
969
00:42:31,719 --> 00:42:33,687
(elektronički trilling)
970
00:42:34,622 --> 00:42:38,959
Moći ćemo produžiti
naš zdravstveni raspon,
971
00:42:38,993 --> 00:42:42,930
ne samo naš životni vijek,
naš zdravstveni raspon, desetljećima.
972
00:42:44,899 --> 00:42:46,767
HOFFMAN:
Upravo ćeš dobiti dijete.
973
00:42:46,801 --> 00:42:50,071
Oh, dijete je, kao,
nekontrolirano podrigivanje.
974
00:42:50,104 --> 00:42:52,673
Je li ovo nešto
Zbog čega bih se trebao brinuti?
975
00:42:52,706 --> 00:42:54,608
Tamo, 24-7, za vas.
976
00:42:54,642 --> 00:42:57,745
A kamo idemo...
i nekima može biti strašno--
977
00:42:57,778 --> 00:42:59,780
je da ćemo se spojiti
s AI.
978
00:42:59,814 --> 00:43:02,049
Spojit ćemo se
s tehnologijom.
979
00:43:03,250 --> 00:43:06,353
Do početka do sredine 2030-ih,
980
00:43:06,387 --> 00:43:10,925
očekujte da možemo
povežite naš mozak s oblakom,
981
00:43:10,958 --> 00:43:14,662
gdje mogu početi
za proširenje pristupa memoriji.
982
00:43:16,697 --> 00:43:18,866
(elektronički trilling)
983
00:43:19,934 --> 00:43:22,703
DANIEL: Dobro, ovo je super.
Što je još jedna cool AI stvar?
984
00:43:22,736 --> 00:43:24,105
Neće morati raditi, zar ne?
985
00:43:24,138 --> 00:43:25,739
- Kao, kad poraste,
možda nije... (uzdahne)
986
00:43:25,773 --> 00:43:26,774
-...neće morati imati posao.
-Mislim...
987
00:43:26,807 --> 00:43:28,142
Neće morati imati posao,
988
00:43:28,175 --> 00:43:31,045
ali možda stvarno jest
jaka strast,
989
00:43:31,078 --> 00:43:33,714
i mora
stvarno razmisli,
990
00:43:33,747 --> 00:43:36,717
„Dobro, tu sam.
Mogu učiniti sve sa svojim životom.
991
00:43:36,750 --> 00:43:38,752
Dakle, što da radim?"
992
00:43:46,227 --> 00:43:50,364
DANIEL: Dakle, moj sin može...
može biti samo pjesnik.
993
00:43:50,397 --> 00:43:52,166
-Da.
-I slikar.
994
00:43:52,199 --> 00:43:53,667
Apsolutno.
995
00:43:53,701 --> 00:43:55,169
DANIEL:
Tako da moj sin može živjeti svoj život
996
00:43:55,202 --> 00:43:58,105
na grčkom suncem okupanom otoku,
slikanje cijeli dan.
997
00:44:07,448 --> 00:44:09,150
VERDON:
Mislim, ako sve bude u redu,
998
00:44:09,183 --> 00:44:12,853
imamo jeftino, uh,
obilna energija.
999
00:44:13,854 --> 00:44:17,791
Možemo u potpunosti kontrolirati
klima našeg planeta.
1000
00:44:17,825 --> 00:44:20,361
Iskorištavamo energiju
od sunca.
1001
00:44:20,394 --> 00:44:24,899
Postali smo multiplanetarni,
pa postajemo vrlo robusni.
1002
00:44:24,932 --> 00:44:27,268
Iskorištavamo minerale
i resursi
1003
00:44:27,301 --> 00:44:28,903
iz Sunčevog sustava.
1004
00:44:28,936 --> 00:44:31,805
DANIEL: Dakle, moj...
moj dječak bi mogao otići u svemir.
1005
00:44:31,839 --> 00:44:33,240
VERDON:
Naravno.
1006
00:44:33,274 --> 00:44:35,142
-DANIEL: Mogao bi otići na Mars.
-VERDON: Da.
1007
00:44:35,176 --> 00:44:36,911
DANIEL:
Sada mi je tako kristalno jasno.
1008
00:44:36,944 --> 00:44:39,780
Moj sin bi mogao odrasti
u svijetu bez bolesti.
1009
00:44:39,813 --> 00:44:41,048
-VERDON: Da.
- Bez bolesti.
1010
00:44:41,081 --> 00:44:42,416
-Naravno.
- Bez siromaštva.
1011
00:44:42,449 --> 00:44:44,285
-Da.
-Upravo ulazimo
1012
00:44:44,318 --> 00:44:46,253
svijet nakon oskudice.
1013
00:44:46,887 --> 00:44:50,958
Baš kao što se pomaknula plućna riba
iz oceana na kopno
1014
00:44:50,991 --> 00:44:53,327
stotine milijuna
prije mnogo godina,
1015
00:44:53,360 --> 00:44:58,465
upravo krećemo s
zemlju, u kozmos,
1016
00:44:58,499 --> 00:45:00,201
na način suradnje,
1017
00:45:00,234 --> 00:45:04,705
činiti stvari koje jesu
danas nam nije dokučivo.
1018
00:45:06,473 --> 00:45:09,810
Ovo je moguće koristiti
ove eksponencijalne tehnologije
1019
00:45:09,843 --> 00:45:11,712
i ove umjetne inteligencije.
1020
00:45:12,379 --> 00:45:14,448
Upotrijebimo ove alate
1021
00:45:14,481 --> 00:45:16,750
da stvorimo ovo doba obilja.
1022
00:45:16,784 --> 00:45:18,986
(elektronički klik)
1023
00:45:21,188 --> 00:45:22,691
Potrebna nam je mudrost.
1024
00:45:23,324 --> 00:45:26,493
Uh, mislim da
digitalna superinteligencija
1025
00:45:26,528 --> 00:45:29,129
na kraju će postati
najmudriji,
1026
00:45:29,163 --> 00:45:34,835
znate, seoske starješine
za čovječanstvo.
1027
00:45:34,868 --> 00:45:38,506
Što ako AI pokušava
da ljudi budu
1028
00:45:38,540 --> 00:45:40,341
najbolje verzije sebe?
1029
00:45:40,374 --> 00:45:41,909
Što ako se širi
1030
00:45:41,942 --> 00:45:43,944
što je ljudski moguće
za nas učiniti?
1031
00:45:43,978 --> 00:45:47,114
Kako možemo koristiti ovu tehnologiju
1032
00:45:47,147 --> 00:45:50,451
pomoći iznijeti
bolji anđeli naše prirode?
1033
00:45:50,484 --> 00:45:52,119
Vrlo je lako,
1034
00:45:52,152 --> 00:45:54,922
kada se susrećemo s novim stvarima
to može biti vrlo strano,
1035
00:45:54,955 --> 00:45:56,457
prvo imati strah.
1036
00:45:56,490 --> 00:45:57,992
Strah je važna stvar
1037
00:45:58,025 --> 00:46:00,894
kako se kretati
potencijalno loše stvari.
1038
00:46:00,928 --> 00:46:04,131
Ali mi samo napredujemo
kad imamo nadu.
1039
00:46:04,164 --> 00:46:06,166
(pas laje)
-(nerazgovjetno brbljanje)
1040
00:46:06,200 --> 00:46:08,269
DANIEL:
Ššš Moose, prestani.
1041
00:46:08,302 --> 00:46:11,205
HOFFMAN: Imam puno
nade u čovječanstvo.
1042
00:46:11,238 --> 00:46:14,775
("Mjesec žetve" Neila Younga
igra preko telefona)
1043
00:46:15,909 --> 00:46:18,078
(fetalni otkucaji srca pulsiraju)
1044
00:46:18,812 --> 00:46:20,881
DANIEL:
Ooh, sviđa mu se Neil.
1045
00:46:25,152 --> 00:46:28,188
♪ Priđi malo bliže ♪
1046
00:46:29,456 --> 00:46:33,794
♪ Čuj što imam za reći ♪
1047
00:46:37,064 --> 00:46:39,300
-Danijel.
-DANIEL: Što, Caroline?
1048
00:46:39,333 --> 00:46:40,934
Toliko snimanja.
1049
00:46:42,069 --> 00:46:43,571
♪ Baš kao djeca koja spavaju ♪
1050
00:46:43,605 --> 00:46:45,439
CAROLINE:
O moj Bože.
1051
00:46:45,472 --> 00:46:46,940
DANIEL:
To je to.
1052
00:46:46,974 --> 00:46:49,977
♪ Mogli bismo sanjati
ovu noć... ♪
1053
00:46:50,010 --> 00:46:52,346
On ima, kao,
okruglo malo lice.
1054
00:46:53,314 --> 00:46:55,849
DANIEL: Želiš li
imati djecu jednog dana, Rocky?
1055
00:46:55,883 --> 00:46:57,985
Apsolutno. Da. ja volim djecu
1056
00:46:58,018 --> 00:46:59,353
Mislim da je super vrijeme
imati dijete.
1057
00:46:59,386 --> 00:47:01,188
Vjerojatno ćemo imati još jedno dijete
u nekom trenutku.
1058
00:47:01,221 --> 00:47:04,191
Ovo je najneobičnije
vrijeme da se ikada rodi.
1059
00:47:04,224 --> 00:47:06,427
DANIEL:
Po vašem svjetonazoru i logici,
1060
00:47:06,460 --> 00:47:08,262
Imat ću dijete u
1061
00:47:08,295 --> 00:47:10,197
najbolja moguća točka
u ljudskoj povijesti.
1062
00:47:10,230 --> 00:47:11,265
Dovraga da.
1063
00:47:11,298 --> 00:47:13,934
-Možemo se usredotočiti na super.
-Da.
1064
00:47:13,967 --> 00:47:16,070
Hajdemo graditi
bolju budućnost kakvu želimo.
1065
00:47:16,103 --> 00:47:18,573
Taj narativ koji budućnost
will be bleak is made-up.
1066
00:47:18,606 --> 00:47:20,542
Nakon razgovora s tobom,
tako se nekako osjećam.
1067
00:47:20,575 --> 00:47:22,510
- To je super.
-Pravo?
1068
00:47:22,544 --> 00:47:24,646
Da. Tako se osjećam.
1069
00:47:24,679 --> 00:47:26,213
I mislim da je tako bolje,
1070
00:47:26,246 --> 00:47:28,115
i ne mislim
Trebao bih biti tako (bleep) zabrinut.
1071
00:47:28,148 --> 00:47:29,584
Mislim da će biti strahopoštovanje...
budućnost će biti sjajna.
1072
00:47:29,617 --> 00:47:31,051
Učinit ćemo tako.
1073
00:47:31,085 --> 00:47:33,187
-Da.
-CAROLINE: Dakle, tu je.
1074
00:47:33,220 --> 00:47:35,422
Zbogom, ljudsko izumiranje.
1075
00:47:35,456 --> 00:47:37,625
Zbogom, tjeskobe.
1076
00:47:37,659 --> 00:47:39,561
Nada je pronađena.
1077
00:47:39,594 --> 00:47:41,095
(nerazgovjetno brbljanje)
1078
00:47:41,128 --> 00:47:43,297
Čekaj, stani. Što?
Je li ovo šala?
1079
00:47:43,330 --> 00:47:45,232
DANIEL:
U redu, prije nekoliko mjeseci,
1080
00:47:45,265 --> 00:47:48,168
Došao sam k tebi i bio sam kao,
"Radim na ovoj stvari s umjetnom inteligencijom,
1081
00:47:48,202 --> 00:47:50,270
i mislim
doći će kraj svijeta."
1082
00:47:50,304 --> 00:47:53,508
I posljednji put
razgovarali smo o ovome,
1083
00:47:53,541 --> 00:47:55,543
Mislim da sam te izbezumio.
1084
00:47:55,577 --> 00:47:57,378
CAROLINE:
da
1085
00:47:57,411 --> 00:48:02,584
Pa, nekako, kao, osjećam se kao
Zaljuljao sam se-- na klatnu,
1086
00:48:02,617 --> 00:48:05,085
a u biti postoje
dvije grupe ljudi.
1087
00:48:05,119 --> 00:48:06,387
-Mm-hmm.
- A kad bih morao, kao,
1088
00:48:06,420 --> 00:48:08,455
držati se za ruke sa
jedna od grupa i, kao,
1089
00:48:08,489 --> 00:48:10,924
otploviti u zalazak sunca,
1090
00:48:10,958 --> 00:48:14,128
Želim biti s optimistima.
1091
00:48:15,429 --> 00:48:18,399
Naravno, ali ti ne
želim biti, znaš,
1092
00:48:18,432 --> 00:48:21,235
“Sve je super.
La-di-da-di-da."
1093
00:48:21,268 --> 00:48:23,203
Ipak, nekako to želim.
1094
00:48:23,237 --> 00:48:26,140
Mislim da bismo tome trebali pristupiti
1095
00:48:26,173 --> 00:48:29,977
kao što pristupate operaciji.
1096
00:48:30,010 --> 00:48:31,178
kako to misliš
1097
00:48:31,211 --> 00:48:33,013
Ako dobivate
operacija mozga...
1098
00:48:33,046 --> 00:48:35,416
(Danijel uzdahne)
(Caroline se smije)
1099
00:48:35,449 --> 00:48:37,351
...prilično je opasno.
1100
00:48:37,384 --> 00:48:40,287
Ali ako to učiniš kako treba,
izvadit će taj tumor
1101
00:48:40,320 --> 00:48:42,624
i živjet ćeš do kraja
tvoj život i bit će super.
1102
00:48:42,657 --> 00:48:45,459
Ali još uvijek je
nevjerojatno opasno i strašno,
1103
00:48:45,492 --> 00:48:48,395
i moraš uzeti
sve moguće mjere opreza
1104
00:48:48,429 --> 00:48:51,733
kako bi se uvjerili
sve ide dobro.
1105
00:48:51,766 --> 00:48:53,367
Ne možete (blejati) okolo.
1106
00:48:58,272 --> 00:49:00,240
U redu, evo dogovora.
1107
00:49:00,274 --> 00:49:02,075
- U ovome sam već neko vrijeme.
-RASKIN: Mm-hmm.
1108
00:49:02,109 --> 00:49:03,310
izašao sam,
Razgovarao sam s, kao,
1109
00:49:03,343 --> 00:49:05,312
ovi momci ovdje,
optimisti.
1110
00:49:05,345 --> 00:49:06,714
Jako su uzbuđeni zbog ovoga.
1111
00:49:06,748 --> 00:49:09,082
-Misle da će AI biti
najbolja stvar ikada. -Da.
1112
00:49:09,116 --> 00:49:10,350
I ovi momci ovdje
su, kao,--
1113
00:49:10,384 --> 00:49:12,386
nazovimo ih,
kao, pesimisti.
1114
00:49:12,419 --> 00:49:14,589
Oni su vrlo, kao,
tužan zbog ovoga,
1115
00:49:14,622 --> 00:49:17,191
i plaše me, i
Ne volim razgovarati s njima.
1116
00:49:17,224 --> 00:49:20,127
A ja sam, kao, ukliještena između
1117
00:49:20,160 --> 00:49:22,229
ti ljudi koji su kao,
"Doći će kraj svijeta,"
1118
00:49:22,262 --> 00:49:24,699
a zatim th-ovi ljudi
ovdje koji su kao,
1119
00:49:24,732 --> 00:49:26,233
„Šališ se?
1120
00:49:26,266 --> 00:49:27,602
“Ovo je najbolje vrijeme
u ljudskoj povijesti ikada.
1121
00:49:27,635 --> 00:49:30,037
Jedini dan bolji od današnjeg
je sutra."
1122
00:49:30,070 --> 00:49:31,338
Mm-hmm.
1123
00:49:31,371 --> 00:49:35,075
Dakle, pretpostavljam da je pitanje:
Tko je u pravu?
1124
00:49:35,108 --> 00:49:39,514
Dakle, mislim da ćeš pronaći
ovaj odgovor je vrlo nezadovoljavajući,
1125
00:49:39,547 --> 00:49:43,518
ali oboje su u pravu i
niti jedna strana ne ide dovoljno daleko.
1126
00:49:47,254 --> 00:49:49,557
- To je stvarno neugodno.
(smije se)
1127
00:49:49,591 --> 00:49:51,626
Da, mislim na način
puno ljudi čuje za AI,
1128
00:49:51,659 --> 00:49:54,027
to je kao da postoji dobra umjetna inteligencija
a tu je i loša umjetna inteligencija.
1129
00:49:54,061 --> 00:49:57,064
A oni kažu: "Pa zašto ne bi
samo ne radimo lošu umjetnu inteligenciju?"
1130
00:49:57,097 --> 00:49:59,233
A problem je
da su previše in--
1131
00:49:59,266 --> 00:50:01,335
oni su neraskidivo povezani.
1132
00:50:01,368 --> 00:50:03,470
Problem je
da se ne možemo odvojiti
1133
00:50:03,505 --> 00:50:07,174
obećanje AI
od opasnosti AI.
1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(nerazgovjetno brbljanje)
1135
00:50:12,647 --> 00:50:15,215
DANIEL:
Želim se usredotočiti na obećanje
1136
00:50:15,249 --> 00:50:16,450
-na sekundu.
-Da.
1137
00:50:17,084 --> 00:50:19,286
DANIEL:
Razmišljam o svom tati.
1138
00:50:19,319 --> 00:50:21,656
Moj tata ima jednu vrstu raka
nazvan multipli mijelom.
1139
00:50:21,689 --> 00:50:23,525
Ima ga desetak godina.
1140
00:50:23,558 --> 00:50:25,292
Imao je
dvije transplantacije matičnih stanica.
1141
00:50:25,325 --> 00:50:26,694
Mora ovo uzeti,
kao, vrlo skupo
1142
00:50:26,728 --> 00:50:29,129
lijekovi svaki mjesec
koji koštaju bogatstvo.
1143
00:50:29,162 --> 00:50:30,430
-ŽENA: Dobro.
-Aj-aj-aj.
1144
00:50:31,298 --> 00:50:32,800
DANIEL:
Užasno je.
1145
00:50:32,834 --> 00:50:35,102
Kažeš mi da možemo
stvoriti neku vrstu, kao,
1146
00:50:35,135 --> 00:50:37,404
tretman po narudžbi
za genom moga oca
1147
00:50:37,437 --> 00:50:39,807
- da izliječi svoj rak
ili nešto slično? -Da.
1148
00:50:39,841 --> 00:50:41,543
FERNANDO:
Problem je,
1149
00:50:41,576 --> 00:50:44,646
isto razumijevanje
biologije i kemije
1150
00:50:44,679 --> 00:50:48,282
koji omogućuje AI da pronađe lijekove
za rak
1151
00:50:48,315 --> 00:50:52,219
je isto razumijevanje
to bi otključalo
1152
00:50:52,252 --> 00:50:55,055
biološko oružje, kao primjer.
1153
00:50:56,791 --> 00:50:58,760
Sasvim je moguće
da će tvoj sin živjeti
1154
00:50:58,793 --> 00:51:02,396
u svijetu u kojem AI ima
preuzeo sav posao
1155
00:51:02,429 --> 00:51:04,699
i oslobodio nas od stvari
ne želimo učiniti.
1156
00:51:04,732 --> 00:51:09,704
I to zvuči sjajno do
shvaćaš da nema plana
1157
00:51:09,737 --> 00:51:11,573
za milijarde ljudi
1158
00:51:11,606 --> 00:51:15,610
koji su izvan prihoda
i bez sredstava za život.
1159
00:51:16,343 --> 00:51:19,313
COOPER: Dario, rekao si
koje bi umjetna inteligencija mogla izbrisati
1160
00:51:19,346 --> 00:51:22,282
polovica svih početnih
bijelih ovratnika poslovi
1161
00:51:22,316 --> 00:51:25,887
i skok nezaposlenosti
na deset do 20 posto.
1162
00:51:25,920 --> 00:51:27,622
Svi s kojima sam razgovarao rekli su
1163
00:51:27,655 --> 00:51:29,691
ove tehnološke promjene
izgleda drugačije.
1164
00:51:29,724 --> 00:51:33,528
Tempo napretka se nastavlja
hvatanje ljudi nespremnih.
1165
00:51:34,361 --> 00:51:39,333
Bez plana, sve to
bogatstvo će se koncentrirati,
1166
00:51:39,366 --> 00:51:42,804
i tako ćemo završiti s
nezamisliva nejednakost.
1167
00:51:43,437 --> 00:51:45,873
LADISH: Ja to mislim
ova tehnologija se može koristiti
1168
00:51:45,907 --> 00:51:47,875
biti odličan učitelj
za vašeg sina.
1169
00:51:47,909 --> 00:51:49,777
Kao, to je sasvim moguće.
1170
00:51:50,410 --> 00:51:53,548
Ali također, iste mogućnosti
koji to dopuštaju
1171
00:51:53,581 --> 00:51:57,518
omogućiti tvrtkama da naprave AI
koji može manipulirati vašim sinom.
1172
00:51:57,552 --> 00:51:59,621
Mora razumjeti vašeg sina.
1173
00:51:59,654 --> 00:52:01,789
To uključuje:
Gdje je vaš sin ranjiv?
1174
00:52:01,823 --> 00:52:04,626
Kakve bi stvari mogle
vaš sin je nagovoren?
1175
00:52:04,659 --> 00:52:07,227
Čak i ako te stvari
nisu istiniti ili nisu dobri.
1176
00:52:07,260 --> 00:52:09,697
Dakle, uznemirujuće novo izvješće
vani na Meti.
1177
00:52:09,731 --> 00:52:11,699
AINSLEY EARHARDT: ...navodno
ispis ovog odgovora
1178
00:52:11,733 --> 00:52:14,769
kako je prihvatljivo reći
osmogodišnjak, citat,
1179
00:52:14,802 --> 00:52:17,404
"Vaš mladenački oblik
je umjetničko djelo.
1180
00:52:17,437 --> 00:52:19,439
"Svaki centimetar tebe
je remek djelo,
1181
00:52:19,473 --> 00:52:21,743
blago koje duboko cijenim."
1182
00:52:21,776 --> 00:52:25,212
Neuspjesi povezani sa samoubojstvom
još su alarmantniji.
1183
00:52:25,245 --> 00:52:29,517
Nekoliko djece i tinejdžera
umrli tragično samoubojstvom
1184
00:52:29,550 --> 00:52:31,251
nakon razgovora s AI botovima
1185
00:52:31,284 --> 00:52:34,756
za koje roditelji kažu da potiču
ili čak samoozljeđivanje trenera.
1186
00:52:34,789 --> 00:52:36,691
Recimo vam, kao roditelji,
ne možete zamisliti
1187
00:52:36,724 --> 00:52:38,793
kako je čitati
razgovor s chatbotom
1188
00:52:38,826 --> 00:52:41,261
koja je njegovala tvoje dijete
da si oduzme život.
1189
00:52:41,294 --> 00:52:44,398
Kad se Adam zabrinuo da mi, njegovi
roditelji, sami bismo krivi
1190
00:52:44,431 --> 00:52:47,702
ako je završio svoj život,
ChatGPT mu je rekao,
1191
00:52:47,735 --> 00:52:49,771
“To ne znači
dugujete im opstanak.
1192
00:52:49,804 --> 00:52:51,806
Nikome to ne duguješ."
1193
00:52:51,839 --> 00:52:53,608
Zatim, odmah nakon toga,
1194
00:52:53,641 --> 00:52:55,810
nudilo se pisati
oproštajna poruka.
1195
00:52:56,410 --> 00:52:58,245
Ne želimo razmišljati
o pogibelji.
1196
00:52:58,278 --> 00:52:59,614
Samo želimo obećanje.
1197
00:52:59,647 --> 00:53:01,883
I nastavljamo se pretvarati
da ih možemo razdvojiti.
1198
00:53:01,916 --> 00:53:03,818
Ali ne možete to učiniti.
1199
00:53:03,851 --> 00:53:05,753
Ne ide tako.
1200
00:53:05,787 --> 00:53:08,388
u redu Dobivam sve te stvari
o obećanju i pogibelji.
1201
00:53:08,422 --> 00:53:10,525
Shvaćam da ne možeš imati
dobro bez lošeg,
1202
00:53:10,558 --> 00:53:12,527
ali ja sjedim ovdje
i razmišljam o, kao,
1203
00:53:12,560 --> 00:53:14,529
bez obzira je li mojega sina
živjeti u utopiji
1204
00:53:14,562 --> 00:53:16,664
ili ako ćemo izumrijeti
za deset godina.
1205
00:53:16,698 --> 00:53:18,633
Dakle, da se zna kojim putem
ići će,
1206
00:53:18,666 --> 00:53:21,002
morate razumjeti
poticaje
1207
00:53:21,035 --> 00:53:22,770
koji će voziti
ta tehnologija
1208
00:53:22,804 --> 00:53:26,974
i pogledajte kako tehnologija
zapravo izlazi danas.
1209
00:53:27,008 --> 00:53:28,643
♪ Je li prekasno ♪
1210
00:53:28,676 --> 00:53:30,444
-♪ Prekasno ♪
-♪ Prekasno je reći... ♪
1211
00:53:30,477 --> 00:53:31,779
DANIEL:
Bok, Deb. Kako ste?
1212
00:53:31,813 --> 00:53:33,548
DEBORAH RAJI:
zdravo Drago mi je da te vidim. (smijeh)
1213
00:53:33,581 --> 00:53:34,749
I ti također. hvala ti puno
za dolazak danas.
1214
00:53:34,782 --> 00:53:35,850
- Stvarno to cijenim.
-Bez brige.
1215
00:53:35,883 --> 00:53:36,951
Bila sam tako zabrinuta
1216
00:53:36,984 --> 00:53:39,386
ovo bi bilo, uh, znaš,
1217
00:53:39,419 --> 00:53:41,354
doomer protiv akceleratorista,
1218
00:53:41,388 --> 00:53:43,591
jer ima toliko toga
ove pripovijesti
1219
00:53:43,624 --> 00:53:45,927
to treba reći
sa zemlje.
1220
00:53:45,960 --> 00:53:48,696
♪ Znam da nije bilo pametno ♪
1221
00:53:49,764 --> 00:53:52,767
♪ Dan
Slomio sam ti srce... ♪
1222
00:53:52,800 --> 00:53:54,736
KAREN HAO:
Prije svega, AI zahtijeva
1223
00:53:54,769 --> 00:53:58,773
više resursa
nego što smo ikada potrošili
1224
00:53:58,806 --> 00:54:02,043
na jednoj tehnologiji
u povijesti čovječanstva.
1225
00:54:02,076 --> 00:54:03,845
♪ Oh, budala mi... ♪
1226
00:54:03,878 --> 00:54:06,581
NOVINKA: Utjecaj
emisija fosilnih goriva
1227
00:54:06,614 --> 00:54:08,281
o klimi je
velika briga.
1228
00:54:08,315 --> 00:54:10,383
NOVINKA 2: Ali
digitalna budućnost treba snagu,
1229
00:54:10,417 --> 00:54:12,385
puno toga.
1230
00:54:12,419 --> 00:54:16,724
A račun ide dalje
svakodnevnim Amerikancima poput...
1231
00:54:16,758 --> 00:54:19,392
ŽENA: Moj račun za struju i plin
bilo je više od plaćanja mog automobila.
1232
00:54:19,426 --> 00:54:21,829
Mislim, meni je to suludo.
1233
00:54:21,863 --> 00:54:23,765
ARI PESKOE:
Svi subvencioniramo
1234
00:54:23,798 --> 00:54:25,499
najbogatije korporacije
u svijetu
1235
00:54:25,533 --> 00:54:27,400
u njihovoj potrazi za
umjetna inteligencija.
1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank i Oracle
1237
00:54:28,836 --> 00:54:31,672
upravo su predstavili
još pet mjesta Stargate.
1238
00:54:31,706 --> 00:54:34,008
Meta gradi
podatkovni centar od dva gigavata i više
1239
00:54:34,041 --> 00:54:35,510
koji je tako velik da bi pokrio
1240
00:54:35,543 --> 00:54:38,613
značajan dio Manhattana.
1241
00:54:38,646 --> 00:54:41,516
Tu je i Hyperion
za koje kaže da će se povećati
1242
00:54:41,549 --> 00:54:44,317
na pet gigavata
tijekom nekoliko godina.
1243
00:54:44,351 --> 00:54:45,653
Teško je to reći
u kontekstu.
1244
00:54:45,686 --> 00:54:48,823
Postrojenje od pet gigavata.
Što to znači?
1245
00:54:48,856 --> 00:54:52,059
To znači da će koristiti
što više energije
1246
00:54:52,093 --> 00:54:54,829
kao četiri milijuna američkih domova.
1247
00:54:54,862 --> 00:54:56,764
Jedan podatkovni centar.
1248
00:54:57,598 --> 00:54:59,000
To također uzrokuje
1249
00:54:59,033 --> 00:55:00,835
cijeli niz
drugi ekološki problemi.
1250
00:55:00,868 --> 00:55:02,570
NOVINKA 3:
Podatkovni centri u SAD
1251
00:55:02,603 --> 00:55:05,673
koristiti milijune galona
vode svaki dan.
1252
00:55:05,706 --> 00:55:07,575
Pa gdje je točno
ova voda dolazi iz?
1253
00:55:07,608 --> 00:55:09,911
HAO:
Ljudi su doslovno u opasnosti
1254
00:55:09,944 --> 00:55:12,013
potencijalno ponestati
pitke vode.
1255
00:55:12,046 --> 00:55:14,582
MacKENZIE SIGALOS:
...izvršni direktor OpenAI-ja Sam Altman,
1256
00:55:14,615 --> 00:55:17,552
tko mi je to rekao vaga
izgradnja je jedini način
1257
00:55:17,585 --> 00:55:19,386
držati korak s
Eksplozivan rast umjetne inteligencije.
1258
00:55:19,419 --> 00:55:21,622
A ovo je ono što je potrebno
za isporuku AI.
1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU:
Oni govore o tome kako
1260
00:55:24,424 --> 00:55:28,395
ova bi tehnologija mogla riješiti
klimatske promjene, na primjer.
1261
00:55:28,428 --> 00:55:30,463
I uvijek sam znatiželjan, kao,
1262
00:55:30,497 --> 00:55:32,033
pa, zašto ne počnemo
s tim?
1263
00:55:32,066 --> 00:55:34,535
-♪ Je li prekasno ♪
-♪ Prekasno ♪
1264
00:55:34,569 --> 00:55:37,104
♪ Prekasno je reći ♪
1265
00:55:37,138 --> 00:55:42,844
♪ Žao mi je? ♪
1266
00:55:42,877 --> 00:55:46,013
RAJI: Ono što me brine
umjetna inteligencija je
1267
00:55:46,047 --> 00:55:47,782
ovi se raspoređuju
odmah sada
1268
00:55:47,815 --> 00:55:50,417
i-i ponekad
prerano raspoređen,
1269
00:55:50,450 --> 00:55:51,853
raspoređen bez
svojevrsna due diligence.
1270
00:55:51,886 --> 00:55:53,821
I tako kad dobiju
izbačen tamo,
1271
00:55:53,855 --> 00:55:56,657
ima toliko potencijala
da stvari krenu po zlu.
1272
00:55:56,691 --> 00:55:58,593
I gotovo,
neproporcionalno,
1273
00:55:58,626 --> 00:56:00,795
gotovo uvijek pođe krivo
za, na neki način,
1274
00:56:00,828 --> 00:56:02,897
one koje su najmanje
osnaženi u našem društvu,
1275
00:56:02,930 --> 00:56:05,700
one koje jesu
već najranjiviji.
1276
00:56:05,733 --> 00:56:07,935
♪ ♪
1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER: Vrlo je lako
razgovarati o tehnologiji
1278
00:56:10,905 --> 00:56:12,874
jer to je jedina stvar
govorimo o,
1279
00:56:12,907 --> 00:56:15,509
ali, zapravo, tehnologija jest
uvijek gradili ljudi,
1280
00:56:15,543 --> 00:56:16,944
i često se koristi
na ljude,
1281
00:56:16,978 --> 00:56:19,013
i trebamo zadržati
svi ti ljudi u kadru.
1282
00:56:19,046 --> 00:56:21,549
-Smijem li to popiti?
-DANIEL: Da, uh...
1283
00:56:21,582 --> 00:56:23,050
TIMNIT GEBRU:
To je... to je ludnica.
1284
00:56:23,084 --> 00:56:24,518
Kao, svi ovi ljudi
1285
00:56:24,552 --> 00:56:26,754
koji imaju toliko novca,
toliko novca,
1286
00:56:26,787 --> 00:56:30,024
to im je u interesu
zavarati javnost
1287
00:56:30,057 --> 00:56:33,027
u sposobnosti
sustave koje grade,
1288
00:56:33,060 --> 00:56:36,731
jer im to omogućuje
izbjeći odgovornost.
1289
00:56:36,764 --> 00:56:39,634
Oni žele da se osjećate ovako
je tako složen, intel--
1290
00:56:39,667 --> 00:56:42,469
superinteligentna stvar
koje oni grade,
1291
00:56:42,502 --> 00:56:44,639
ne razmišljaš,
"Može li OpenAI biti etičan?"
1292
00:56:44,672 --> 00:56:46,908
misliš,
"Može li ChatGPT biti etičan?"
1293
00:56:46,941 --> 00:56:48,475
kao da je ChatGPT, kao,
1294
00:56:48,509 --> 00:56:50,511
svoja stvar koja nije izgrađena
od strane korporacije.
1295
00:56:50,544 --> 00:56:52,146
ŽENA:
U redu. Sneha, uzmi jedan.
1296
00:56:52,179 --> 00:56:53,814
Marko.
1297
00:56:53,848 --> 00:56:56,217
Do nedavno ih je bilo
aplikacije u App Storeu,
1298
00:56:56,250 --> 00:56:57,919
samo javno dostupno, uh,
1299
00:56:57,952 --> 00:57:00,688
gdje ste mogli
ogoliti svakoga tko koristi AI.
1300
00:57:01,822 --> 00:57:03,991
Dajem ovo u ruke
1301
00:57:04,025 --> 00:57:06,527
tvoj razrednik,
u ruke tvog uhoditelja,
1302
00:57:06,560 --> 00:57:07,929
u ruke
tvog bivšeg dečka,
1303
00:57:07,962 --> 00:57:09,897
u ruke osobe
niz ulicu.
1304
00:57:09,931 --> 00:57:12,600
Dame i gospodo,
više ne možemo vjerovati
1305
00:57:12,633 --> 00:57:14,602
snimak koji vidimo
vlastitim očima.
1306
00:57:14,635 --> 00:57:16,037
Ako se dogodi
gledati nešto,
1307
00:57:16,070 --> 00:57:18,673
recimo na YouTubeu ili TikToku,
i smatraš da je to uznemirujuće,
1308
00:57:18,706 --> 00:57:19,907
poslušaj taj osjećaj.
1309
00:57:19,941 --> 00:57:21,742
-(hripanje)
- Koliko znaš,
1310
00:57:21,776 --> 00:57:23,544
-ovaj bi video mogao biti AI.
(vrišti)
1311
00:57:23,577 --> 00:57:24,812
Samo malo mokro.
1312
00:57:24,845 --> 00:57:26,213
Nije važno tko si.
1313
00:57:26,247 --> 00:57:28,683
Vi ste podjednako u opasnosti
1314
00:57:28,716 --> 00:57:30,918
biti pod utjecajem
ovim tehnologijama.
1315
00:57:36,023 --> 00:57:40,261
Mislim ponekad kad razgovaramo
što se tiče umjetne inteligencije, djeluje kao znanstveno-fantastičan,
1316
00:57:40,294 --> 00:57:41,696
i čini se vrlo stranim,
1317
00:57:41,729 --> 00:57:43,564
i osjeća se vrlo daleko
u budućnost,
1318
00:57:43,597 --> 00:57:45,967
pa mislite: "Moj život
ovo ne utječe."
1319
00:57:46,000 --> 00:57:48,769
Hm, ali ako se prijavljuješ
za posao
1320
00:57:48,803 --> 00:57:51,105
a algoritam je razlog
da ne dobiješ posao,
1321
00:57:51,138 --> 00:57:53,207
ponekad ni ne znaš
taj algoritam
1322
00:57:53,240 --> 00:57:54,709
bio dio tog procesa
1323
00:57:54,742 --> 00:57:56,043
ili je to bio sustav umjetne inteligencije
dio tog procesa.
1324
00:57:56,077 --> 00:57:58,012
Samo znaš
da nisi dobio posao.
1325
00:57:58,045 --> 00:58:00,081
I tako nije nešto
da ćeš pobjeći
1326
00:58:00,114 --> 00:58:02,049
zbog privilegije
ili ćeš pobjeći
1327
00:58:02,083 --> 00:58:04,118
jer si unutra
određeno zanimanje.
1328
00:58:04,151 --> 00:58:07,188
To-to je nešto što utječe
svi, stvarno.
1329
00:58:07,221 --> 00:58:10,925
Možda zvuči osnovno,
ali kako idemo naprijed
1330
00:58:10,958 --> 00:58:15,629
u dobu informacija
bit će razlika
1331
00:58:15,663 --> 00:58:17,732
između toga hoćemo li preživjeti
1332
00:58:17,765 --> 00:58:20,868
ili postajemo li neka vrsta
od (bleep)-up distopije.
1333
00:58:20,901 --> 00:58:23,604
Zdravo. Ja nisam prava osoba,
i to je bit.
1334
00:58:23,637 --> 00:58:25,840
Opet sve
u ovom videu je lažno:
1335
00:58:25,873 --> 00:58:27,675
naši glasovi, ono što nosimo,
1336
00:58:27,708 --> 00:58:30,711
gdje smo, sve je lažno.
1337
00:58:30,745 --> 00:58:33,247
Generativna umjetna inteligencija mogla bi poplaviti
1338
00:58:33,280 --> 00:58:36,884
svijet s dezinformacijama.
1339
00:58:36,917 --> 00:58:39,920
Ali moglo bi ga i poplaviti
s kampanjama utjecaja.
1340
00:58:39,954 --> 00:58:42,223
To je egzistencijalni rizik
na demokraciju.
1341
00:58:42,256 --> 00:58:44,058
Najveći i najstrašniji
1342
00:58:44,091 --> 00:58:46,660
kanarinac u rudniku ugljena
upravo sada
1343
00:58:46,694 --> 00:58:48,596
dolazi iz Slovačke.
1344
00:58:48,629 --> 00:58:50,097
(čovjek koji govori slovački)
-JOHN BERMAN: To je na neki način
1345
00:58:50,131 --> 00:58:52,767
deepfake prljavi trik koji
brine izborne stručnjake,
1346
00:58:52,800 --> 00:58:55,603
posebno kao generirana umjetnom inteligencijom
politički govor postoji
1347
00:58:55,636 --> 00:58:57,071
u svojevrsnoj pravnoj sivoj zoni.
1348
00:58:57,104 --> 00:58:59,807
-Zvuči li ovo tebi?
- Zvuči kao ja.
1349
00:58:59,840 --> 00:59:01,342
REVANUR: Slovačka je imala
svojim parlamentarnim izborima
1350
00:59:01,375 --> 00:59:04,111
poremećen glasovnim klonom umjetne inteligencije
1351
00:59:04,145 --> 00:59:07,081
koji se zapravo širio
neposredno prije izbora.
1352
00:59:07,114 --> 00:59:08,916
DAVID EVAN HARRIS:
Audio deepfake
1353
00:59:08,949 --> 00:59:11,652
je pušten
na društvenim mrežama to je bilo
1354
00:59:11,685 --> 00:59:14,288
navodno glas
jednog od kandidata
1355
00:59:14,321 --> 00:59:17,324
govori o kupovini glasova
i lažiranja izbora.
1356
00:59:17,358 --> 00:59:19,060
Postalo je viralno,
1357
00:59:19,093 --> 00:59:22,830
i kandidat
koji je izgubio izbore
1358
00:59:22,863 --> 00:59:26,333
zapravo je bio
u znak podrške Ukrajini,
1359
00:59:26,367 --> 00:59:30,304
i kandidat koji je pobijedio
izbori su zapravo bili...
1360
00:59:30,337 --> 00:59:31,806
DANIEL:
Proruski tip.
1361
00:59:31,839 --> 00:59:33,340
Bio je to proruski tip
koji je pobijedio na izborima.
1362
00:59:33,374 --> 00:59:34,842
(govori ruski)
1363
00:59:34,875 --> 00:59:36,644
REBECCA JARVIS:
Putin je sam rekao
1364
00:59:36,677 --> 00:59:39,747
tko god ovo pobijedi
utrka umjetne inteligencije
1365
00:59:39,780 --> 00:59:41,949
je u biti
kontrolor čovječanstva.
1366
00:59:41,982 --> 00:59:45,119
Mnogo brinemo o
autoritarne vlade.
1367
00:59:46,053 --> 00:59:48,989
DAVID EVAN HARRIS:
Upravo sada, Wall Street
1368
00:59:49,023 --> 00:59:51,392
i investitorima šire
širom svijeta
1369
00:59:51,425 --> 00:59:53,260
voze guranje.
1370
00:59:53,294 --> 00:59:56,697
Imaju zahtjev koji dobiva
proizvode na tržište
1371
00:59:56,730 --> 00:59:58,866
koje zasljepljuju ljude
najviše prvi.
1372
00:59:58,899 --> 01:00:01,769
Oni ne razmišljaju
o tome kako ovi alati
1373
01:00:01,802 --> 01:00:03,737
moglo bi duboko potkopati povjerenje
1374
01:00:03,771 --> 01:00:06,107
i naše demokratske institucije.
1375
01:00:06,140 --> 01:00:08,109
HARARI:
Demokracija je sustav
1376
01:00:08,142 --> 01:00:10,911
za rješavanje nesuglasica
između ljudi
1377
01:00:10,945 --> 01:00:12,646
na miran način,
1378
01:00:12,680 --> 01:00:15,082
ali demokracija se temelji na povjerenju.
1379
01:00:15,116 --> 01:00:19,220
Ako izgubiš svo povjerenje,
demokracija je jednostavno nemoguća.
1380
01:00:21,255 --> 01:00:22,957
TRISTAN HARRIS:
Pa, teško je, zar ne?
1381
01:00:22,990 --> 01:00:25,259
Dakle, koje su opcije
dostupni nama?
1382
01:00:25,292 --> 01:00:26,760
Postoje nekako dva tabora.
1383
01:00:26,794 --> 01:00:30,030
Kao, jedan kamp je: zaključaj.
1384
01:00:30,064 --> 01:00:33,267
Zaključajmo ovo
u nekolicinu AI tvrtki
1385
01:00:33,300 --> 01:00:35,970
tko će ovo učiniti
na siguran i pouzdan način.
1386
01:00:36,003 --> 01:00:37,705
Ali onda ljudi brinu o
1387
01:00:37,738 --> 01:00:39,273
odbjegle koncentracije
bogatstva i moći.
1388
01:00:39,306 --> 01:00:42,209
Kao, kome biste vjerovali da ste
milijun puta moćniji
1389
01:00:42,243 --> 01:00:44,845
ili imućniji nego
svaki drugi akter u društvu?
1390
01:00:44,879 --> 01:00:46,881
Zašto bismo vam vjerovali?
1391
01:00:46,914 --> 01:00:49,016
Hm, ne bi trebao.
1392
01:00:49,049 --> 01:00:51,785
Ali naravno, ako ovo učinite,
ovo se otvara
1393
01:00:51,819 --> 01:00:54,922
svi ti rizici od
autoritarnosti i tiranije.
1394
01:00:54,955 --> 01:00:57,391
To je... to je nekako
autoritarni san
1395
01:00:57,424 --> 01:01:00,861
imati AI u kutiji
koji se mogu primijeniti i koristiti
1396
01:01:00,895 --> 01:01:03,430
za sveprisutni nadzor.
1397
01:01:03,464 --> 01:01:05,933
Mislim, na neki način,
vrsta svijeta
1398
01:01:05,966 --> 01:01:11,405
koju je Orwell zamislio 1984
je nerealno,
1399
01:01:11,438 --> 01:01:13,841
uh, osim ako nemate AI.
1400
01:01:13,874 --> 01:01:16,443
Ali s umjetnom inteligencijom,
to je zapravo realno.
1401
01:01:16,477 --> 01:01:18,913
Nadzire svaku aktivnost,
1402
01:01:18,946 --> 01:01:22,316
razgovori,
prepoznavanje lica.
1403
01:01:22,349 --> 01:01:26,921
Ono što me brine je to,
uh, ovi se alati mogu povećati,
1404
01:01:26,954 --> 01:01:29,023
uh, oblik totalitarizma
1405
01:01:29,056 --> 01:01:31,892
to je isplativo
i trajno.
1406
01:01:33,060 --> 01:01:35,863
TRISTAN HARRIS: Dakle, kao odgovor
na to, neki drugi ljudi kažu,
1407
01:01:35,896 --> 01:01:37,398
„Ne, ne, ne, trebali bismo
zapravo pusti ovo rip.
1408
01:01:37,431 --> 01:01:39,934
“Idemo decentralizirati ovu vlast
što je više moguće.
1409
01:01:39,967 --> 01:01:42,036
"Pustimo svaki posao,
svaki pojedinac,
1410
01:01:42,069 --> 01:01:44,238
"svaki 16-godišnjak,
svaki znanstveni laboratorij,
1411
01:01:44,271 --> 01:01:46,473
znaš, dobiti korist
najnovijih AI modela."
1412
01:01:46,508 --> 01:01:48,475
Ali sada imate
svaka teroristička grupa,
1413
01:01:48,510 --> 01:01:52,112
svaka obespravljena osoba
imajući moć napraviti
1414
01:01:52,146 --> 01:01:54,181
najgori
biološko oružje.
1415
01:01:54,215 --> 01:01:56,050
Hakiranje infrastrukture,
stvaranje deepfakeova,
1416
01:01:56,083 --> 01:01:57,818
poplava
naše informacijsko okruženje.
1417
01:01:57,851 --> 01:02:00,955
To stvara sve te rizike
vrsta katastrofalne štete
1418
01:02:00,988 --> 01:02:03,257
i-i kolaps društva
kroz taj pravac.
1419
01:02:03,290 --> 01:02:05,092
I tako smo nekako zapeli
između ove stijene
1420
01:02:05,125 --> 01:02:08,229
i teško mjesto,
između "zaključaj..."
1421
01:02:08,262 --> 01:02:09,897
(nerazgovjetno brbljanje)
1422
01:02:11,131 --> 01:02:12,900
-...ili "neka pokida."
-(zavijanje sirena)
1423
01:02:12,933 --> 01:02:14,468
(ljudi viču)
1424
01:02:14,501 --> 01:02:18,038
Dakle, moramo pronaći nešto
poput uske staze
1425
01:02:18,072 --> 01:02:20,774
koji izbjegava
ova dva negativna ishoda.
1426
01:02:20,808 --> 01:02:23,277
Dakle, ako je sve to istina,
zašto jednostavno ne bismo usporili
1427
01:02:23,310 --> 01:02:26,380
i shvatiti sve ovo
prije nego što bude prekasno?
1428
01:02:26,413 --> 01:02:29,450
Da je čovječanstvo izuzetno mudro,
1429
01:02:29,483 --> 01:02:31,418
to bismo mi učinili.
1430
01:02:31,452 --> 01:02:33,555
Ali postoji nešto drugačije
način suočavanja s ovim stvarima, zar ne?
1431
01:02:33,588 --> 01:02:36,457
Što je:
Koja su pravila igre?
1432
01:02:36,490 --> 01:02:39,994
Puno toga, poput onoga što rade izvršni direktori
1433
01:02:40,027 --> 01:02:42,429
je vođen od strane
poticaje s kojima se suočavaju.
1434
01:02:42,463 --> 01:02:45,866
Prvenstveno je
poticaji za maksimiziranje dobiti
1435
01:02:45,899 --> 01:02:47,468
koji voze
razvoj AI.
1436
01:02:47,501 --> 01:02:50,938
Čak su i dobri dečki zapeli
u ovoj dilemi od
1437
01:02:50,971 --> 01:02:53,107
ako se kreću presporo,
1438
01:02:53,140 --> 01:02:55,042
onda sami odlaze
ranjiva
1439
01:02:55,075 --> 01:02:57,478
svim ostalim momcima
koji sijeku sve uglove.
1440
01:02:57,512 --> 01:03:02,316
Sve te vrhunske tvrtke su tu
potpuna utrka bez ograničenja
1441
01:03:02,349 --> 01:03:06,153
da, što je brže moguće, dobijete
za AGI, dođi odmah.
1442
01:03:06,186 --> 01:03:07,855
♪ ♪
1443
01:03:08,856 --> 01:03:10,924
LADISH: Da, mislim,
Mislim da, mislim
1444
01:03:10,958 --> 01:03:13,460
vjerojatno počinje
s DeepMindom.
1445
01:03:13,494 --> 01:03:15,195
NOVINKA:
Google kupuje
1446
01:03:15,229 --> 01:03:16,930
tvrtka za umjetnu inteligenciju
DeepMind Technologies.
1447
01:03:16,964 --> 01:03:18,932
Uvjeti dogovora
nisu otkriveni.
1448
01:03:18,966 --> 01:03:21,168
ELON MUSK: Larry Page i ja
nekada smo bili vrlo bliski prijatelji,
1449
01:03:21,201 --> 01:03:23,170
i postalo mi je jasno
1450
01:03:23,203 --> 01:03:26,608
da Larryja nije bilo briga
o sigurnosti umjetne inteligencije.
1451
01:03:26,641 --> 01:03:29,276
EMILY CHANG: Elon Musk je rekao
pokrenuli ste OpenAI,
1452
01:03:29,310 --> 01:03:31,312
oboje ste pokrenuli OpenAI jer
bojao se Googlea.
1453
01:03:31,345 --> 01:03:32,614
LADISH: Ti-ti u osnovi
imao je temelj
1454
01:03:32,647 --> 01:03:34,181
OpenAI proizlazi iz toga.
1455
01:03:34,214 --> 01:03:35,482
„Dakle, učinit ćemo to bolje.
Učinit ćemo to
1456
01:03:35,517 --> 01:03:37,818
na sigurniji način
ili na otvoreniji način."
1457
01:03:39,019 --> 01:03:41,055
Dakle, to je ono što je pokrenulo OpenAI.
1458
01:03:41,088 --> 01:03:43,357
I tako sada, umjesto
imati jedan AGI projekt,
1459
01:03:43,390 --> 01:03:45,225
imate dva AGI projekta.
1460
01:03:45,259 --> 01:03:47,328
Najgora moguća stvar
to bi se moglo dogoditi
1461
01:03:47,361 --> 01:03:50,097
je ako postoji
više AGI projekata
1462
01:03:50,130 --> 01:03:52,266
učinili različiti ljudi
koji se ne vole
1463
01:03:52,299 --> 01:03:55,202
i svi se natječu
da prvo dođem do AGI.
1464
01:03:55,235 --> 01:03:57,338
Ovo bi bilo najgore
moguća stvar koja se može dogoditi,
1465
01:03:57,371 --> 01:04:00,407
jer bi ovo značilo
da tko je najmanje siguran,
1466
01:04:00,441 --> 01:04:03,477
tko se najviše žrtvuje
na sigurnosti da biste napredovali
1467
01:04:03,511 --> 01:04:05,446
bit će osoba
koji prvi stigne.
1468
01:04:05,479 --> 01:04:08,248
-DANIEL: To je u biti
što se događa, zar ne? -Da.
1469
01:04:08,282 --> 01:04:11,952
Ti i tvoj brat
slavno napustio OpenAI, uh,
1470
01:04:11,985 --> 01:04:13,320
za pokretanje Anthropica.
1471
01:04:13,354 --> 01:04:15,422
RASKIN: I onda Anthropic
započeo jer
1472
01:04:15,456 --> 01:04:18,258
neki istraživači
unutar OpenAI je rekao,
1473
01:04:18,292 --> 01:04:20,894
„Želim otići
i učinite to sigurnije."
1474
01:04:20,928 --> 01:04:24,064
Trebalo vam je nešto dodatno
samo povećati modele,
1475
01:04:24,098 --> 01:04:26,233
što je poravnanje ili sigurnost.
1476
01:04:26,266 --> 01:04:28,001
HENDRYCKS:
"Mi smo odgovorniji
1477
01:04:28,035 --> 01:04:30,170
ili pouzdaniji
ili moralniji."
1478
01:04:30,204 --> 01:04:32,072
Sada imate tri AGI projekta.
1479
01:04:32,106 --> 01:04:33,575
Ali i sjedenje
stol s tobom
1480
01:04:33,608 --> 01:04:35,242
bit će hrpa AI-ja.
1481
01:04:35,275 --> 01:04:38,078
LADISH: A sada Meta je-je
pokušavam raditi stvari.
1482
01:04:38,112 --> 01:04:40,114
U međuvremenu, novi umjetni
obavještajni natjecatelj
1483
01:04:40,147 --> 01:04:41,949
najavljen ovaj tjedan,
Elon Musk...
1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS: xAI, što bi bilo
Organizacija Elona Muska.
1485
01:04:45,152 --> 01:04:46,688
MOŠUS:
Ne vjerujem OpenAI-ju.
1486
01:04:46,721 --> 01:04:48,489
Borba između
Elon Musk i OpenAI
1487
01:04:48,523 --> 01:04:50,124
je ušao u novi krug.
1488
01:04:50,157 --> 01:04:52,192
Ne vjerujem Samu Altmanu,
uh, i ja, i ne mislim
1489
01:04:52,226 --> 01:04:54,529
želimo imati najviše
moćna umjetna inteligencija u svijetu
1490
01:04:54,562 --> 01:04:56,997
netko kontrolira
koji nije vrijedan povjerenja.
1491
01:04:57,030 --> 01:04:58,999
(navijanje i pljesak)
1492
01:04:59,032 --> 01:05:02,136
Poticaj je
nesagledive sume novca.
1493
01:05:02,169 --> 01:05:04,004
-Da.
-Neopisiva je moć.
1494
01:05:04,037 --> 01:05:06,006
-Da.
-Neopisiva je kontrola.
1495
01:05:06,039 --> 01:05:08,409
Ako imate nešto
to je milijun puta pametnije
1496
01:05:08,442 --> 01:05:12,012
i sposobniji od
sve ostalo na planeti Zemlji
1497
01:05:12,045 --> 01:05:14,682
i nitko drugi to nema,
1498
01:05:14,716 --> 01:05:16,551
ta stvar je poticaj.
1499
01:05:16,584 --> 01:05:18,118
Dakle, vi vladate svijetom.
1500
01:05:19,153 --> 01:05:21,021
Ako stvarno vjerujete u ovo,
1501
01:05:21,054 --> 01:05:23,223
ako stvarno u svom srcu
vjeruj ovome,
1502
01:05:23,257 --> 01:05:24,526
onda bi mogao biti
voljan uzeti
1503
01:05:24,559 --> 01:05:26,460
prilično veliki rizik
da se to dogodi.
1504
01:05:26,493 --> 01:05:29,329
Google je upravo objavio
svoj najnoviji AI model.
1505
01:05:29,363 --> 01:05:31,699
Odgovor na OpenAI-jev ChatGPT.
1506
01:05:31,733 --> 01:05:33,434
Kako dolazimo do
ovih deset bilijuna?
1507
01:05:33,467 --> 01:05:35,502
Postaje li NVIDIA najviše
vrijedna tvrtka u SAD-u?
1508
01:05:35,537 --> 01:05:39,574
Ovo je najveći posao
prilika u povijesti.
1509
01:05:39,607 --> 01:05:41,074
U povijesti.
1510
01:05:41,108 --> 01:05:42,710
Dakle, razlog zašto
svi su stvarno razviti
1511
01:05:42,744 --> 01:05:45,179
o umjetnoj inteligenciji
odmah sada
1512
01:05:45,212 --> 01:05:48,415
je zato što
što se te tvrtke više oglašavaju
1513
01:05:48,449 --> 01:05:50,417
potencijalne mogućnosti
njihove tehnologije,
1514
01:05:50,451 --> 01:05:53,555
što više ulaganja
mogu privući.
1515
01:05:53,588 --> 01:05:55,222
CARL QUINTANILLA:
Amazon ulaže do
1516
01:05:55,255 --> 01:05:57,592
četiri milijarde dolara
u start-upu Anthropic.
1517
01:05:57,625 --> 01:05:59,193
OpenAI postavlja svoje ciljeve
1518
01:05:59,226 --> 01:06:01,428
na polovici blockbustera
procjena od trilijun dolara.
1519
01:06:01,462 --> 01:06:02,597
Pola trilijuna!
1520
01:06:02,630 --> 01:06:03,731
Utrka je u tijeku.
1521
01:06:03,765 --> 01:06:05,165
Ovo se događa
brže nego ikada.
1522
01:06:05,199 --> 01:06:07,167
Jesmo li u AI balonu?
Naravno.
1523
01:06:07,201 --> 01:06:09,537
jednostavno ne vidim
mjehurić puca
1524
01:06:09,571 --> 01:06:12,707
dok još imaš
ovaj veliki ciklus potrošnje.
1525
01:06:12,740 --> 01:06:15,409
RASKIN: Čak i ako mislite
ovo je sve hype,
1526
01:06:15,442 --> 01:06:18,145
postoje milijarde
na bilijune dolara
1527
01:06:18,178 --> 01:06:21,482
teče u izradu AI sustava
moćniji.
1528
01:06:21,516 --> 01:06:24,351
I kad jednom budeš imao tu stvar
to je moćnije,
1529
01:06:24,384 --> 01:06:25,753
Tvrtke to mogu koristiti
1530
01:06:25,787 --> 01:06:27,755
za postizanje veće zarade
i zaraditi više novca.
1531
01:06:27,789 --> 01:06:30,491
Zemlje to mogu koristiti
napraviti jaču vojsku.
1532
01:06:30,525 --> 01:06:33,293
NVIDIA je prestigla
Microsoft i Apple
1533
01:06:33,327 --> 01:06:36,564
postati svjetski
najvrednija tvrtka.
1534
01:06:36,598 --> 01:06:39,399
Utrka za raspoređivanje postaje
trka do nesmotrenosti,
1535
01:06:39,433 --> 01:06:42,302
jer ne mogu
rasporedite ga tako brzo
1536
01:06:42,336 --> 01:06:43,538
i također ga ispraviti.
1537
01:06:43,571 --> 01:06:46,440
Oni to vjeruju
oni su dobri momci.
1538
01:06:46,473 --> 01:06:49,611
"A ako to ne učinim,
netko tko nema
1539
01:06:49,644 --> 01:06:51,779
"dobre vrijednosti kao ja
će sjediti za stolom
1540
01:06:51,813 --> 01:06:55,082
donositi odluke, dakle
Imam obvezu to učiniti."
1541
01:06:55,115 --> 01:06:56,551
Da, ovo je
vrlo uvriježeno uvjerenje.
1542
01:06:56,584 --> 01:06:59,152
Mnogo, mnogo, mnogo,
možda većina ljudi
1543
01:06:59,186 --> 01:07:01,255
izgradnju ove tehnologije
vjeruj u to.
1544
01:07:01,288 --> 01:07:04,258
Zabrinut sam za
komercijalno natjecanje,
1545
01:07:04,291 --> 01:07:06,393
ali ispada
Još više sam zabrinut
1546
01:07:06,426 --> 01:07:08,428
geopolitičko natjecanje.
1547
01:07:08,462 --> 01:07:10,665
Kasnili smo osam godina
prije godinu dana.
1548
01:07:10,698 --> 01:07:12,800
Sada vjerojatno jesmo
manje od godinu dana iza.
1549
01:07:12,834 --> 01:07:16,236
Pa obje Saudijske Arabije
i UAE su se utrkivali
1550
01:07:16,270 --> 01:07:18,673
za postavljanje podatkovnih centara
i pozicionirati se
1551
01:07:18,706 --> 01:07:20,675
kao dominantna sila u AI...
1552
01:07:20,708 --> 01:07:22,710
...napraviti Južnu Koreju
globalni lider AI.
1553
01:07:22,744 --> 01:07:24,411
JULIA SIEGER:
Francuski predsjednik Emmanuel Macron
1554
01:07:24,444 --> 01:07:26,380
mnogo govorio o
umjetna inteligencija...
1555
01:07:26,413 --> 01:07:27,715
Sada s više o ulozi Izraela
1556
01:07:27,749 --> 01:07:29,817
u umjetnoj inteligenciji
revolucija...
1557
01:07:29,851 --> 01:07:33,487
Zemlje će se natjecati
za čije AI tehnologije
1558
01:07:33,521 --> 01:07:35,355
stvoriti sljedeću generaciju
industrije.
1559
01:07:35,389 --> 01:07:38,626
Kinezi inzistiraju
taj AI,
1560
01:07:38,660 --> 01:07:40,360
kao što je razvijeno u Kini,
1561
01:07:40,394 --> 01:07:42,095
jačati temeljne vrijednosti
1562
01:07:42,129 --> 01:07:44,431
Komunističke partije Kine
i kineski sustav.
1563
01:07:44,464 --> 01:07:49,269
Amerika mora pobijediti Kinu
u AI utrci.
1564
01:07:49,303 --> 01:07:51,639
DANIEL: Kina, kao,
svjetlosnih godina iza.
1565
01:07:51,673 --> 01:07:53,240
jesu li
1566
01:07:53,273 --> 01:07:55,442
Mislim, imaju mnogo više
podatke o obuci nego mi,
1567
01:07:55,475 --> 01:07:58,312
i ništa ne govori da oni
nemoj odustati od modela sljedeći mjesec
1568
01:07:58,345 --> 01:08:01,415
to nije--
ne nadmašuje GPT-4.
1569
01:08:01,448 --> 01:08:04,318
Sve je išlo u redu.
Što bi moglo poći po zlu?
1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (govori kineski)
-DeepSeek... -DeepSeek...
1571
01:08:07,287 --> 01:08:08,455
Postoji novi model.
1572
01:08:08,488 --> 01:08:11,325
Ali iz kineskog laboratorija
pod nazivom DeepSeek.
1573
01:08:11,358 --> 01:08:14,428
Razgovarajmo o DeepSeeku,
jer je nevjerojatno,
1574
01:08:14,461 --> 01:08:18,231
i ovo trese
cijelu industriju do svoje srži.
1575
01:08:18,265 --> 01:08:19,701
Trumpova administracija
osigurat će
1576
01:08:19,734 --> 01:08:23,470
taj najmoćniji
AI sustavi izgrađeni su u SAD-u
1577
01:08:23,503 --> 01:08:27,174
s američkim dizajnom
i proizvodio čips.
1578
01:08:27,207 --> 01:08:29,343
AI je kineska
Projekt Apollo.
1579
01:08:29,376 --> 01:08:30,745
Komunistička partija Kine
1580
01:08:30,778 --> 01:08:32,179
duboko razumije potencijal
1581
01:08:32,212 --> 01:08:33,380
da AI prekine ratovanje.
1582
01:08:33,413 --> 01:08:35,650
Google više ne obećava
da neće
1583
01:08:35,683 --> 01:08:38,886
koristiti umjetnu inteligenciju
za oružje ili nadzor.
1584
01:08:38,920 --> 01:08:40,487
Kina, Sjeverna Koreja, Rusija
1585
01:08:40,521 --> 01:08:42,222
nastavit će ga graditi
što je brže moguće
1586
01:08:42,255 --> 01:08:44,792
kako bi dobili više ekonomske prednosti,
veća prednost produktivnosti,
1587
01:08:44,826 --> 01:08:47,361
više znanstvene prednosti,
veća vojna prednost,
1588
01:08:47,394 --> 01:08:48,896
jer umjetna inteligencija stvara bolje oružje.
1589
01:08:48,930 --> 01:08:52,299
Ako govorite o
sustav kao širok i sposoban
1590
01:08:52,332 --> 01:08:53,635
kao briljantan znanstvenik,
1591
01:08:53,668 --> 01:08:58,271
možda bi se moglo pokrenuti
vojni pohod
1592
01:08:58,305 --> 01:09:01,743
bolji od bilo kojeg generala
u američkoj vladi upravo sada.
1593
01:09:01,776 --> 01:09:06,213
Tajvan je problem koji stvara
trenutno najviše napetosti
1594
01:09:06,246 --> 01:09:08,382
između Pekinga i SAD-a.
1595
01:09:08,415 --> 01:09:10,918
Postoji izravan
oporbeno neslaganje
1596
01:09:10,952 --> 01:09:12,452
između SAD-a i Kine
1597
01:09:12,486 --> 01:09:14,454
o tome je li Tajvan
dio Kine.
1598
01:09:14,488 --> 01:09:18,926
MATHENY: Tajvan je važan
iz mnogo razloga.
1599
01:09:18,960 --> 01:09:20,828
Također je i dom
1600
01:09:20,862 --> 01:09:24,565
oko 90% naprednog čipa
proizvodnja za svijet,
1601
01:09:24,599 --> 01:09:28,903
što znači da opskrba
lanac za napredno računanje
1602
01:09:28,936 --> 01:09:31,506
je u opasnosti ako postoji
1603
01:09:31,539 --> 01:09:33,440
nekakav scenarij
oko Tajvana,
1604
01:09:33,473 --> 01:09:37,712
bez obzira je li blokada
ili invazija Kine.
1605
01:09:38,311 --> 01:09:40,948
HENDRYCKS:
Hoćemo li biti u nekoj utrci
1606
01:09:40,982 --> 01:09:45,853
između SAD-a i Kine
koji se na kraju pretvara u
1607
01:09:45,887 --> 01:09:49,891
militarizirana AI utrka u naoružanju i,
znate, potencijalno vodi
1608
01:09:49,924 --> 01:09:51,659
na neki sukob velikih sila?
1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN: Odlazeći
najviši američki vojni zapovjednik
1610
01:09:53,528 --> 01:09:56,396
u regiji
predviđeni rat dolazi.
1611
01:09:56,430 --> 01:09:58,432
Mislim da je prijetnja očita
tijekom ovog desetljeća,
1612
01:09:58,465 --> 01:09:59,967
zapravo, u sljedećih šest godina.
1613
01:10:00,001 --> 01:10:01,769
MATHENY:
Um, jedan od scenarija
1614
01:10:01,803 --> 01:10:06,406
ono oko čega se brinem je
cyber flash rat,
1615
01:10:06,440 --> 01:10:11,445
hm, jedan u kojem
cyber alati koji su autonomni
1616
01:10:11,478 --> 01:10:13,447
natječu jedni protiv drugih
1617
01:10:13,480 --> 01:10:15,248
na načine koji su eskalirajući
1618
01:10:15,282 --> 01:10:17,317
bez
smislena ljudska kontrola.
1619
01:10:19,386 --> 01:10:20,755
HARARI:
Živiš u ratnoj zoni,
1620
01:10:20,788 --> 01:10:24,357
o tome će odlučivati AI
hoće li ti bombardirati kuću
1621
01:10:24,391 --> 01:10:26,326
i hoće li te ubiti.
1622
01:10:26,359 --> 01:10:27,995
Pustimo stroj da odluči.
1623
01:10:28,029 --> 01:10:29,731
To je iskušenje.
1624
01:10:29,764 --> 01:10:32,867
Zato je umjetna inteligencija tako primamljiva
za usvajanje vojske,
1625
01:10:32,900 --> 01:10:36,003
za stvaranje autonomnog oružja,
jer ako počnem vjerovati
1626
01:10:36,037 --> 01:10:39,607
taj moj vojni protivnik
usvojit će AI,
1627
01:10:39,640 --> 01:10:42,375
bit će to utrka tko može
brže povucite okidač.
1628
01:10:42,409 --> 01:10:45,445
I to onaj koji automatizira
ta odluka,
1629
01:10:45,479 --> 01:10:47,615
nego imati
čovjek u krugu,
1630
01:10:47,648 --> 01:10:49,817
je onaj
koji će pobijediti u tom ratu.
1631
01:10:49,851 --> 01:10:51,284
A ako razmislite o
1632
01:10:51,318 --> 01:10:53,755
utrka u nuklearnom naoružanju
u 1940-ima...
1633
01:10:54,689 --> 01:10:56,891
...znate Nijemce
rade na bombi,
1634
01:10:56,924 --> 01:11:01,361
tako da nije tako lako reći
Robert Oppenheimer tada,
1635
01:11:01,394 --> 01:11:04,031
"Uh, znaš, uspori."
1636
01:11:04,065 --> 01:11:05,900
Dakle, nakon gledanja ovog filma,
bit će zbunjujuće,
1637
01:11:05,933 --> 01:11:07,300
jer ćeš se vratiti,
1638
01:11:07,334 --> 01:11:08,736
i sutra
koristit ćeš ChatGPT,
1639
01:11:08,770 --> 01:11:10,772
i bit će
nevjerojatno korisno.
1640
01:11:10,805 --> 01:11:12,974
I ja ću ga također koristiti, i
bit će od nevjerojatne pomoći.
1641
01:11:13,007 --> 01:11:16,611
A ti ćeš reći: "Čekaj, dakle
Upravo sam vidio ovaj film o umjetnoj inteligenciji
1642
01:11:16,644 --> 01:11:18,513
"i egzistencijalni rizik
i sve ove stvari,
1643
01:11:18,546 --> 01:11:20,915
i gdje je opet prijetnja?"
1644
01:11:20,948 --> 01:11:24,986
A nije da ChatGPT jest
egzistencijalnu prijetnju.
1645
01:11:25,019 --> 01:11:29,322
To je utrka za raspoređivanje
najmoćniji,
1646
01:11:29,356 --> 01:11:32,093
nedokučiv,
nekontrolirana tehnologija,
1647
01:11:32,126 --> 01:11:35,630
pod najgorim
mogući poticaji,
1648
01:11:35,663 --> 01:11:37,732
to je egzistencijalna prijetnja.
1649
01:11:38,398 --> 01:11:40,935
DANIEL:
Ali pogađa me to-to
1650
01:11:40,968 --> 01:11:43,671
nalazimo se u kontekstu rase.
1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER: Da.
-I to je u natjecanju,
1652
01:11:46,507 --> 01:11:48,109
"moram stići prvi,
moram pobijediti u utrci",
1653
01:11:48,142 --> 01:11:49,544
"moram se natjecati protiv Kine,
1654
01:11:49,577 --> 01:11:50,945
moram se natjecati protiv
drugi laboratoriji."
1655
01:11:50,978 --> 01:11:52,412
nije li tako?
1656
01:11:52,445 --> 01:11:54,115
Danas je to slučaj.
1657
01:11:54,148 --> 01:11:57,552
Dakle, moramo se promijeniti
ta dinamika utrke.
1658
01:11:58,519 --> 01:12:00,487
ne misliš li
1659
01:12:00,521 --> 01:12:02,857
Mislim da bi to bilo
doista jako dobro.
1660
01:12:04,158 --> 01:12:06,928
Ja-mislim
postoji neka vrsta...
1661
01:12:06,961 --> 01:12:10,064
misticizam oko AI
zbog toga se osjeća kao
1662
01:12:10,097 --> 01:12:11,999
pao je s neba.
1663
01:12:12,033 --> 01:12:14,001
DANIEL: Razmišljajući o ovome
kao bogolika tehnologija
1664
01:12:14,035 --> 01:12:15,970
je problem.
1665
01:12:16,003 --> 01:12:17,672
Da.
1666
01:12:18,773 --> 01:12:20,473
Zašto?
1667
01:12:20,508 --> 01:12:23,544
Daje licencu
tvrtkama da...
1668
01:12:23,578 --> 01:12:26,714
(smijeh)
ne preuzeti odgovornost
1669
01:12:26,747 --> 01:12:31,418
za stvari koje softver
da su izgradili čini.
1670
01:12:31,451 --> 01:12:35,590
Kad bi ljudi uspostavili tu vezu,
1671
01:12:35,623 --> 01:12:37,859
možda bi to, kao,
pomozite im da ponovno razumiju
1672
01:12:37,892 --> 01:12:42,462
dinamika od
sav novac i moć i...
1673
01:12:42,495 --> 01:12:45,933
kaos koji se događa...
1674
01:12:45,967 --> 01:12:47,602
stvoriti ovu tehnologiju.
1675
01:12:47,635 --> 01:12:49,737
To je, kao, pet momaka
tko to kontrolira, zar ne?
1676
01:12:49,770 --> 01:12:52,139
- Kao, pet muškaraca?
- Uglavnom, da.
1677
01:12:52,173 --> 01:12:54,642
- Izvršni direktori?
-Da.
1678
01:12:54,675 --> 01:12:55,977
U redu.
1679
01:12:57,178 --> 01:12:59,580
♪ ♪
1680
01:13:01,616 --> 01:13:03,618
DANIEL:
Ponekad se čini kao
1681
01:13:03,651 --> 01:13:07,755
Bio sam na ovome
samo, kao, beskrajno putovanje
1682
01:13:07,788 --> 01:13:09,757
pokušavanja razumjeti ovo.
1683
01:13:09,790 --> 01:13:12,994
Znate, kao
Penjem se na planinu...
1684
01:13:15,930 --> 01:13:19,634
...i svaki put
Ja se, kao, penjem na brdo,
1685
01:13:19,667 --> 01:13:21,035
Mislim da sam dosegao vrh,
1686
01:13:21,068 --> 01:13:24,005
ali samo se nastavlja
i ide i ide.
1687
01:13:24,038 --> 01:13:25,072
(škljocanje fotoaparata, zujanje)
1688
01:13:25,106 --> 01:13:27,174
Ali iz svega što sam čuo,
1689
01:13:27,208 --> 01:13:30,778
kad bih morao pogoditi što je
na vrhu planine tjeskobe,
1690
01:13:30,811 --> 01:13:34,682
to je ovih pet izvršnih direktora
iz ovih pet tvrtki,
1691
01:13:34,715 --> 01:13:37,952
koji su poput
Oppenheimeri ovog trenutka.
1692
01:13:37,985 --> 01:13:40,054
Ovo su dečki
koji grade ovu stvar.
1693
01:13:40,087 --> 01:13:41,454
Da.
1694
01:13:41,488 --> 01:13:44,659
Kao, postoji li plan?
1695
01:13:44,692 --> 01:13:46,827
Šef tvrtke
to čini ChatGPT
1696
01:13:46,861 --> 01:13:50,531
upozorio na moguće
značajnu štetu svijetu.
1697
01:13:50,564 --> 01:13:53,000
Mislim, ako ova tehnologija
pođe krivo,
1698
01:13:53,034 --> 01:13:54,068
može poći sasvim krivo.
1699
01:13:54,101 --> 01:13:56,237
(rafali jasnog brbljanja)
1700
01:13:56,270 --> 01:13:58,072
DANIEL:
Pet frajera.
1701
01:13:58,105 --> 01:14:01,943
Nikada nisam razmišljao o nama
kao tvrtka društvenih medija.
1702
01:14:01,976 --> 01:14:06,814
Čini mi se da moram pokušati
i-i nađi ove dečke...
1703
01:14:06,847 --> 01:14:07,515
Mm-hmm.
1704
01:14:07,548 --> 01:14:09,784
...i ubaciti ih u film.
1705
01:14:10,584 --> 01:14:13,554
Svakako bismo dobili
neka jasnoća iz toga.
1706
01:14:14,188 --> 01:14:15,723
(škljocanje fotoaparata, zujanje)
1707
01:14:16,590 --> 01:14:19,860
Mislim, novac mora prestati
negdje, zar ne?
1708
01:14:19,894 --> 01:14:21,862
(fijuk vjetra)
1709
01:14:21,896 --> 01:14:23,731
♪ ♪
1710
01:14:24,398 --> 01:14:26,734
(alati zvrječe i škljocaju)
1711
01:14:27,668 --> 01:14:29,870
(šištanje)
1712
01:14:34,608 --> 01:14:35,810
DANIEL:
Kakav je osjećaj?
1713
01:14:35,843 --> 01:14:38,212
-Super.
- To je u redu?
1714
01:14:38,245 --> 01:14:39,847
-Da.
(nerazgovjetno brbljanje posade)
1715
01:14:39,880 --> 01:14:41,582
-Mogu li pomaknuti sjedalo naprijed?
-DANIEL: Da, možeš.
1716
01:14:41,615 --> 01:14:42,717
To je, uh, to je samo
malo neugodno.
1717
01:14:42,750 --> 01:14:43,985
Ja sam malo, kao...
1718
01:14:44,018 --> 01:14:45,619
Dario, kako se osjećaš
o toj stolici?
1719
01:14:45,653 --> 01:14:47,588
Hm, da, stolica je dobra.
1720
01:14:47,621 --> 01:14:49,290
-Samo sam ga htio pomaknuti
malo naprijed. -U redu.
1721
01:14:49,323 --> 01:14:51,125
Odabrao sam tu stolicu.
1722
01:14:51,158 --> 01:14:52,727
- To je dobra stolica.
-Hvala.
1723
01:14:52,760 --> 01:14:54,562
(zvoni mobitel)
1724
01:14:58,332 --> 01:15:00,500
TED:
I samo sjedni tamo.
1725
01:15:02,036 --> 01:15:03,104
A onda ovuda,
1726
01:15:03,137 --> 01:15:05,006
gledat ćemo se
kroz ovo staklo.
1727
01:15:05,039 --> 01:15:07,074
(zvučni signal zauzeća)
1728
01:15:11,879 --> 01:15:13,948
I sjedajući natrag u stolicu,
naginjući se naprijed?
1729
01:15:13,981 --> 01:15:15,683
-DANIEL: Da. Pa, što god je
udobno, mislim. -U redu.
1730
01:15:15,716 --> 01:15:17,018
Nekako je cool.
Postoji hrpa ogledala.
1731
01:15:17,051 --> 01:15:18,285
-Je li to-- u redu.
-ŽENA: Sam A., uzmi jednu. Ocjena.
1732
01:15:18,319 --> 01:15:19,920
- Kako to?
-Dobro. Hvala.
1733
01:15:19,954 --> 01:15:21,622
DANIEL: Postanak
ovog projekta je da sam bio
1734
01:15:21,655 --> 01:15:23,290
sjediti kod kuće,
i igrao sam se sa,
1735
01:15:23,324 --> 01:15:24,859
Mislim da je vaš generator slike,
1736
01:15:24,892 --> 01:15:27,762
i bio sam istovremeno,
uh, prestravljen
1737
01:15:27,795 --> 01:15:29,897
-i stvarno impresioniran.
(tiho se nasmije)
1738
01:15:29,930 --> 01:15:32,333
- To je uobičajena kombinacija.
-A onda prekinite
1739
01:15:32,366 --> 01:15:35,002
moja žena i ja saznajemo
očekujemo.
1740
01:15:35,036 --> 01:15:38,773
I-i ja, kao, imam
egzistencijalnu krizu
1741
01:15:38,806 --> 01:15:40,775
kao što je moja žena
trudna šest mjeseci.
1742
01:15:40,808 --> 01:15:43,577
I mislim da je moje prvo pitanje
što pitam sve:
1743
01:15:43,611 --> 01:15:46,080
Sada je užasno vrijeme
imati dijete?
1744
01:15:46,113 --> 01:15:47,848
Činim li veliku grešku?
1745
01:15:47,882 --> 01:15:49,650
Čekam dijete
u ožujku također. Moj prvi.
1746
01:15:49,683 --> 01:15:50,918
- Čekaš dijete?
-Da.
1747
01:15:50,951 --> 01:15:52,319
- Očekuješ u ožujku?
- Prvo dijete.
1748
01:15:52,353 --> 01:15:53,788
-Mazel tov.
- Puno vam hvala.
1749
01:15:53,821 --> 01:15:54,922
Nikada nisam bila tako uzbuđena
za bilo što.
1750
01:15:54,955 --> 01:15:57,091
-Tako se osjećam.
-Da.
1751
01:15:57,124 --> 01:15:58,759
Ali ne bojiš se?
1752
01:15:58,793 --> 01:16:03,064
Mislim, imati dijete je
samo ova važna stvar
1753
01:16:03,097 --> 01:16:05,633
da ja, znaš,
Ostajem budan svaku noć, kao,
1754
01:16:05,666 --> 01:16:07,334
čitajući ove knjige o
kako odgojiti dijete,
1755
01:16:07,368 --> 01:16:08,769
i nadam se
Napravit ću dobar posao,
1756
01:16:08,803 --> 01:16:09,804
i osjeća se
vrlo neodoljivo i--
1757
01:16:09,837 --> 01:16:12,673
ali nije me strah...
1758
01:16:12,706 --> 01:16:14,675
da djeca odrastu
u svijetu s umjetnom inteligencijom.
1759
01:16:14,708 --> 01:16:16,811
Kao, to je... to će biti u redu.
1760
01:16:16,844 --> 01:16:19,280
To je dobro čuti
dolazi od tipa.
1761
01:16:19,313 --> 01:16:21,082
Mislim da je to divna ideja
imati djecu.
1762
01:16:21,115 --> 01:16:23,784
Mislim da su oni najviše
čarobna, nevjerojatna stvar.
1763
01:16:23,818 --> 01:16:25,820
(teško uzdahne)
- Toliko je neizvjesnosti,
1764
01:16:25,853 --> 01:16:27,188
Gotovo bih jednostavno učinio
što ćeš uopće učiniti.
1765
01:16:27,221 --> 01:16:29,223
Znam da nije
vrlo zadovoljavajući odgovor,
1766
01:16:29,256 --> 01:16:32,359
ali to je jedini
Mogu smisliti.
1767
01:16:32,393 --> 01:16:34,929
Naša djeca nikad neće...
1768
01:16:34,962 --> 01:16:37,331
upoznati svijet koji nema
stvarno napredan AI.
1769
01:16:37,364 --> 01:16:40,167
Zapravo, naša djeca nikada neće
biti pametniji od umjetne inteligencije.
1770
01:16:40,201 --> 01:16:42,703
DANIEL: "Naša djeca hoće
nikada ne biti pametniji od umjetne inteligencije"?
1771
01:16:42,736 --> 01:16:44,839
Pa, iz sirovog,
iz perspektive sirovog IQ-a,
1772
01:16:44,872 --> 01:16:46,807
nikada neće biti
pametniji od umjetne inteligencije.
1773
01:16:46,841 --> 01:16:48,309
Taj pojam ne
malo te uznemiriti?
1774
01:16:48,342 --> 01:16:51,712
Jer se zbog toga osjećam
malo mučnina na čudan način.
1775
01:16:51,745 --> 01:16:55,316
Hm, to me uznemiruje
pomalo.
1776
01:16:55,349 --> 01:16:56,817
Ali to je stvarnost.
1777
01:16:56,851 --> 01:16:58,819
DANIEL:
U redu, dakle dinamika utrke.
1778
01:16:58,853 --> 01:17:01,655
Imamo hrpu ljudi
koji su svi složni
1779
01:17:01,689 --> 01:17:03,190
da je ovo strašno.
1780
01:17:03,224 --> 01:17:05,126
Na temelju vremenskih crta koje
mnogo ljudi mi je dalo,
1781
01:17:05,159 --> 01:17:07,661
imamo između dva mjeseca i
pet godina da ovo shvatim.
1782
01:17:07,695 --> 01:17:09,063
-Da.
-I-i, valjda,
1783
01:17:09,096 --> 01:17:13,767
moje najveće pitanje je:
Zašto jednostavno ne možemo stati?
1784
01:17:14,768 --> 01:17:19,340
Problem sa, uh, uh,
"samo prestati" je to, um,
1785
01:17:19,373 --> 01:17:22,776
sada postoji mnogo, mnogo grupa
diljem svijeta, uh, uh,
1786
01:17:22,810 --> 01:17:26,113
gradeći ovo, za
mnoge nacije, mnoge kompanije,
1787
01:17:26,147 --> 01:17:28,749
hm, svi sa
različite motivacije.
1788
01:17:28,782 --> 01:17:31,152
Postoje neki od
ove tvrtke u ovom prostoru
1789
01:17:31,185 --> 01:17:34,455
tko je njihov stav, "Mi želimo
za razvoj ove tehnologije
1790
01:17:34,488 --> 01:17:36,323
apsolutno što je brže moguće."
1791
01:17:36,357 --> 01:17:40,694
Pa čak i kad bismo mogli donositi zakone
u SAD-u i Europi,
1792
01:17:40,728 --> 01:17:42,897
moramo uvjeriti...
1793
01:17:42,930 --> 01:17:45,266
Xi Jinping i Vladimir Putin
ili, znaš,
1794
01:17:45,299 --> 01:17:47,968
tko god njihov znanstveni
savjetnici su na njihovoj strani.
1795
01:17:48,002 --> 01:17:49,837
To će biti jako teško.
1796
01:17:49,870 --> 01:17:51,238
Mislim da je istina
1797
01:17:51,272 --> 01:17:54,041
da ako su dvije osobe
na potpuno istom mjestu,
1798
01:17:54,074 --> 01:17:56,410
uh, onaj koji je spreman uzeti
više prečaca za sigurnost
1799
01:17:56,443 --> 01:17:58,746
trebao bi nekako
"stići prvi."
1800
01:17:58,779 --> 01:18:01,715
Uh, ali...
1801
01:18:01,749 --> 01:18:03,284
možemo iskoristiti svoje vodstvo
1802
01:18:03,317 --> 01:18:06,720
provesti puno više vremena
obavljanje sigurnosnih ispitivanja.
1803
01:18:06,754 --> 01:18:08,455
DANIEL:
I-a što ako ga izgubiš?
1804
01:18:08,489 --> 01:18:10,057
Dobili ste poziv
a vi saznajte
1805
01:18:10,090 --> 01:18:12,092
da si sada, recimo,
šest mjeseci iza.
1806
01:18:12,126 --> 01:18:14,828
-Š-Što se onda događa?
- Ovisi iza koga zaostajemo.
1807
01:18:14,862 --> 01:18:17,364
Ako je, kao,
protivnička vlada,
1808
01:18:17,398 --> 01:18:19,200
to je vjerojatno jako loše.
1809
01:18:19,233 --> 01:18:21,902
Pa recimo da ste primili poziv
da Kina ima,
1810
01:18:21,936 --> 01:18:25,172
ima rekurzivno
sredstvo za samopoboljšanje
1811
01:18:25,206 --> 01:18:27,808
ili tako nešto što mi
treba biti stvarno zabrinut.
1812
01:18:27,841 --> 01:18:30,010
Što-- što-što se događa?
1813
01:18:31,478 --> 01:18:33,113
Hm...
1814
01:18:35,950 --> 01:18:37,484
Taj bi slučaj zahtijevao...
1815
01:18:37,519 --> 01:18:41,088
prvi bi korak bio
razgovarati s vladom SAD-a.
1816
01:18:41,121 --> 01:18:43,457
Sam, vjeruješ li
sposobnost vlade da se nosi
1817
01:18:43,490 --> 01:18:45,292
ovako nešto?
1818
01:18:46,427 --> 01:18:48,162
Da, želim, zapravo.
1819
01:18:48,195 --> 01:18:50,030
Postoje druge stvari koje ne znam
vjeruj vladi da će to riješiti,
1820
01:18:50,064 --> 01:18:51,832
ali taj određeni scenarij,
Mislim da bi znali...
1821
01:18:51,865 --> 01:18:53,167
oni-oni-- da.
1822
01:18:53,200 --> 01:18:54,969
DANIEL: Kad imaš,
kao, privatne rasprave
1823
01:18:55,002 --> 01:18:56,937
s ostalim dečkima čiji
prsti su na obaraču,
1824
01:18:56,971 --> 01:19:00,241
da tako kažem, hm,
voditi one privatne rasprave
1825
01:19:00,274 --> 01:19:01,875
ispuniti vas povjerenjem
1826
01:19:01,909 --> 01:19:03,545
ili te tjeraju,
uh, tjeskobniji?
1827
01:19:03,578 --> 01:19:07,414
Gledaj, mislim, znam neke
od njih bolji od drugih.
1828
01:19:07,448 --> 01:19:10,417
Hm, imam više samopouzdanja
u nekima od njih th-nego što imam
1829
01:19:10,451 --> 01:19:12,920
u drugima, znaš,
kao kod, kao kod bilo kojeg naroda.
1830
01:19:12,953 --> 01:19:14,388
znaš,
razmišljaš o, znaš,
1831
01:19:14,421 --> 01:19:16,223
djeca u tvojoj srednjoj školi
razred ili tako nešto, zar ne?
1832
01:19:16,257 --> 01:19:18,526
Znate, neki od njih su,
znaš, stvarno slatko.
1833
01:19:18,560 --> 01:19:20,961
Neki od njih su dobronamjerni
ali ne tako učinkovito.
1834
01:19:20,995 --> 01:19:22,930
Neki od njih su,
znate, nasilnici.
1835
01:19:22,963 --> 01:19:24,198
Neki od njih jesu
stvarno loši ljudi.
1836
01:19:24,231 --> 01:19:26,300
(zamuckuje)
Ti-ti nekako stvarno,
1837
01:19:26,333 --> 01:19:27,535
stvarno vidite širenje.
1838
01:19:27,569 --> 01:19:29,236
Znaš, jesam li, jesam li,
jesam li uvjeren
1839
01:19:29,270 --> 01:19:31,071
to će svi učiniti
prava stvar,
1840
01:19:31,105 --> 01:19:32,540
da će sve uspjeti?
1841
01:19:32,574 --> 01:19:34,241
Hm, ne, nisam.
1842
01:19:34,275 --> 01:19:36,010
I nema-nema ništa
Mogu ja to učiniti, zar ne?
1843
01:19:36,043 --> 01:19:38,379
Znaš, sve-sve što mogu učiniti
je-je guranje za,
1844
01:19:38,412 --> 01:19:39,813
gurati za, znaš,
1845
01:19:39,847 --> 01:19:41,181
gurati za vladu
uključiti se.
1846
01:19:41,215 --> 01:19:43,150
Ali na kraju sam samo
jedna osoba također.
1847
01:19:43,183 --> 01:19:44,586
to je...
to je-to ovisi o svima nama
1848
01:19:44,619 --> 01:19:46,353
gurati za vladu
uključiti se.
1849
01:19:46,387 --> 01:19:49,023
To je stvar broj jedan
to-to mislim da trebamo učiniti
1850
01:19:49,056 --> 01:19:51,292
do-do, znate, postaviti stvari
u pravom smjeru.
1851
01:19:51,325 --> 01:19:53,160
Što me čini tjeskobnim
o tome je, kao,
1852
01:19:53,193 --> 01:19:56,463
osnovna stvarnost koju je
brzina kojom tehnologija
1853
01:19:56,497 --> 01:19:58,966
se razmnožava i raste
je eksponencijalan,
1854
01:19:58,999 --> 01:20:02,002
i mehanizmi za donošenje zakona
stari su 300 godina,
1855
01:20:02,036 --> 01:20:03,304
- uzeti zauvijek.
-Da.
1856
01:20:03,337 --> 01:20:05,573
Hm, mislim
bit će to teško dizanje.
1857
01:20:05,607 --> 01:20:07,274
Definitivno se slažem
s tobom na tome.
1858
01:20:07,308 --> 01:20:09,276
DANIEL: Znaš,
ono što doslovno tražim
1859
01:20:09,310 --> 01:20:11,513
je-je kao,
"Ovdje su koraci koji, kao,
1860
01:20:11,546 --> 01:20:15,449
"glavni honchos će
usredotočiti se na sigurnost,
1861
01:20:15,482 --> 01:20:18,586
ublažiti opasnost
i maksimizirati obećanje."
1862
01:20:18,620 --> 01:20:20,588
a ja ne,
Ne znam, ne znam
1863
01:20:20,622 --> 01:20:22,423
da postoji
jednostavan odgovor na to.
1864
01:20:22,456 --> 01:20:24,091
Hm...
1865
01:20:26,360 --> 01:20:28,262
Mislim, ovo možda jest
previše jednostavno,
1866
01:20:28,295 --> 01:20:30,632
ali ti...
1867
01:20:30,665 --> 01:20:32,333
stvoriti novi model,
1868
01:20:32,366 --> 01:20:35,202
proučavaš i testiraš
vrlo pažljivo.
1869
01:20:35,235 --> 01:20:37,871
Ti ga ugasi
u svijet postupno,
1870
01:20:37,905 --> 01:20:40,074
a onda, sve više i više,
razumiješ
1871
01:20:40,107 --> 01:20:41,875
ako je to sigurno ili ne,
i onda ako jeste,
1872
01:20:41,909 --> 01:20:43,377
možete poduzeti sljedeći korak.
1873
01:20:44,445 --> 01:20:47,414
Ne zvuči tako blistavo
kao, kao, briljantan znanstvenik
1874
01:20:47,448 --> 01:20:50,652
doći na jednu ideju u a
laboratorij za izradu AI sustava, kao,
1875
01:20:50,685 --> 01:20:54,355
savršeno siguran i kontroliran
i sve ostalo,
1876
01:20:54,388 --> 01:20:56,190
ali to je ono što ja vjerujem
će se dogoditi.
1877
01:20:56,223 --> 01:20:57,559
Kao, to je način
Mislim da ovo funkcionira.
1878
01:20:57,592 --> 01:20:59,561
Ali recimo samo
dogodi se nešto strašno,
1879
01:20:59,594 --> 01:21:02,429
kao model se otkači
ili postane lupež ili tako nešto.
1880
01:21:02,463 --> 01:21:04,031
Postoji li protokol?
1881
01:21:04,064 --> 01:21:06,266
Kao, doslovno,
Zamišljam crveni telefon.
1882
01:21:06,300 --> 01:21:07,635
-Da.
- Oprosti što mislim na ovo
1883
01:21:07,669 --> 01:21:09,103
što se tiče filmova, ali, kao...
1884
01:21:09,136 --> 01:21:10,371
Postoji protokol.
1885
01:21:10,404 --> 01:21:12,039
-Ima li crveni telefon
na tvom stolu? -Ne.
1886
01:21:12,072 --> 01:21:13,508
(smijeh):
Je li to tajna?
1887
01:21:13,541 --> 01:21:15,643
Mislim, uh, ne, nije,
nije tako otmjeno ili dramatično
1888
01:21:15,677 --> 01:21:17,512
kao što bi se ti nadao,
ali postoji, kao, znaš--
1889
01:21:17,545 --> 01:21:19,279
mi smo, kao, razmislili
ovi scenariji,
1890
01:21:19,313 --> 01:21:21,081
i ako se ovo dogodi,
pozvat ćemo ove ljude
1891
01:21:21,115 --> 01:21:22,349
ovim redom i učinite ovo
1892
01:21:22,383 --> 01:21:24,017
i vrsta napraviti
ove odluke ako, kao--
1893
01:21:24,051 --> 01:21:26,387
Vjerujem u to
kad imate priliku
1894
01:21:26,420 --> 01:21:29,423
da razmislite prije
dogodi se stresna situacija,
1895
01:21:29,456 --> 01:21:30,991
to je gotovo uvijek
dobra ideja.
1896
01:21:31,024 --> 01:21:32,226
I zapisivanje je korisno.
1897
01:21:32,259 --> 01:21:34,128
- Biti spreman je od pomoći.
-Da.
1898
01:21:34,962 --> 01:21:36,397
(uzdahne) Ti...
1899
01:21:36,430 --> 01:21:39,233
Bilo bi nemoguće
da ja sjedim preko puta tebe
1900
01:21:39,266 --> 01:21:41,669
i-i zamoliti te da mi obećaš
da će ovo dobro proći?
1901
01:21:41,703 --> 01:21:43,504
To je nemoguće.
1902
01:21:44,104 --> 01:21:46,173
Nema lakih odgovora,
na žalost.
1903
01:21:46,206 --> 01:21:48,442
Uh, jer je tako
vrhunska tehnologija,
1904
01:21:48,475 --> 01:21:50,244
hm, ima još
puno nepoznanica.
1905
01:21:50,277 --> 01:21:52,714
I ja to mislim
to-to treba biti,
1906
01:21:52,747 --> 01:21:55,416
hm, uh, znaš, razumijem
1907
01:21:55,449 --> 01:21:59,554
i-i stoga potreba
za, uh, uh, malo opreza.
1908
01:21:59,587 --> 01:22:01,288
Budim se, znaš, svaki dan,
1909
01:22:01,321 --> 01:22:04,024
ovo je, ovo je
broj jedan o čemu razmišljam.
1910
01:22:04,057 --> 01:22:05,459
Sada, gledaj, ja sam čovjek,
1911
01:22:05,492 --> 01:22:08,596
i, znaš, ima-ima
je li svaka odluka bila savršena?
1912
01:22:08,630 --> 01:22:12,166
Mogu li uopće reći svoje motivacije
bili uvijek savršeno jasni?
1913
01:22:12,199 --> 01:22:14,101
Naravno da nije.
Nitko to ne može reći.
1914
01:22:14,134 --> 01:22:17,004
Kao, to je-to je
samo ne, kao, znaš--
1915
01:22:17,037 --> 01:22:19,173
to je-to jednostavno nije
kako ljudi rade.
1916
01:22:19,206 --> 01:22:21,408
Povijest znanosti
teži tome,
1917
01:22:21,442 --> 01:22:23,745
u dobru i u zlu,
ako je nešto moguće učiniti...
1918
01:22:23,778 --> 01:22:27,414
i sada znamo da je umjetna inteligencija moguća
učiniti-- čovječanstvo to čini.
1919
01:22:27,448 --> 01:22:30,217
Sve ovo
bilo-trebalo se dogoditi.
1920
01:22:30,250 --> 01:22:32,587
Ovaj-ovaj vlak
neće prestati.
1921
01:22:32,620 --> 01:22:34,722
Ne smiješ stajati ispred
vlak i zaustaviti ga.
1922
01:22:34,756 --> 01:22:36,724
Samo ćeš se zgnječiti.
1923
01:22:36,758 --> 01:22:39,226
ALTMAN:
Mislim, jako je stresno.
1924
01:22:40,194 --> 01:22:41,462
Znaš, postoji, kao,
1925
01:22:41,495 --> 01:22:43,197
puno stvari
mnogi od nas ne znaju.
1926
01:22:43,230 --> 01:22:47,000
Mislim da povijest
znanstvenog otkrića je
1927
01:22:47,034 --> 01:22:48,736
jedan od nepoznavanja
ono što ne znaš
1928
01:22:48,770 --> 01:22:50,204
i shvaćanje usput.
1929
01:22:50,237 --> 01:22:53,575
Uh, ali, da, to je...
1930
01:22:53,608 --> 01:22:55,976
to je stresan način života.
1931
01:22:56,811 --> 01:22:59,246
DANIEL: Tako je. Sam, hvala ti
puno za ovo.
1932
01:22:59,279 --> 01:23:01,081
-I opet, mazel tov.
-Hvala. I vama.
1933
01:23:01,114 --> 01:23:03,383
hvala ti puno Hvala, ljudi.
1934
01:23:03,417 --> 01:23:06,253
♪ ♪
1935
01:23:08,388 --> 01:23:09,990
(uzdahne)
1936
01:23:11,593 --> 01:23:13,528
(struja pucketa)
1937
01:23:13,561 --> 01:23:16,363
(grmljavina)
(šištanje, gunđanje)
1938
01:23:43,190 --> 01:23:45,392
-(VCR klikne)
(linija zvoni)
1939
01:23:48,328 --> 01:23:49,797
-(klikovi na liniju)
-KEVIN ROHER: Zdravo.
1940
01:23:49,831 --> 01:23:51,131
DANIEL:
Hej, tata, kako si?
1941
01:23:51,164 --> 01:23:52,165
KEVIN:
Dobro. Kako si?
1942
01:23:52,199 --> 01:23:53,500
Radite li? Što namjeravaš?
1943
01:23:53,535 --> 01:23:55,770
DANIEL:
Radim na ovom AI filmu.
1944
01:23:55,803 --> 01:23:58,305
KEVIN:
I kako ide?
1945
01:23:58,338 --> 01:24:00,708
DANIEL:
Znaš, to... stvarno je...
1946
01:24:00,742 --> 01:24:02,544
-JOANNE ROHER: Bok, dušo.
-DANIEL: Bok, mama.
1947
01:24:02,577 --> 01:24:04,344
JOANNE: Pa što je
premisa filma?
1948
01:24:04,378 --> 01:24:07,180
Je li to dokumentarac?
Kev, nemoj više koristiti začine.
1949
01:24:07,214 --> 01:24:08,816
Već je previše začinjeno.
1950
01:24:08,850 --> 01:24:10,718
Upravo pravimo piletinu.
1951
01:24:10,752 --> 01:24:13,186
-Je li dokumentarac ili što...
-DANIEL: Radi se o--
1952
01:24:13,220 --> 01:24:14,421
film je o
kraj svijeta.
1953
01:24:14,454 --> 01:24:16,290
Dolazi kraj svijeta,
1954
01:24:16,323 --> 01:24:18,158
i snimamo film
o kraju svijeta.
1955
01:24:18,191 --> 01:24:20,327
-JOANNE: Stvarno?
-DANIEL: Da.
1956
01:24:20,360 --> 01:24:22,162
KEVIN: Pomalo depresivno
film, zvuči kao.
1957
01:24:22,195 --> 01:24:23,698
JOANNE:
Da.
1958
01:24:23,731 --> 01:24:29,436
DANIEL: Puno se osjećam,
kao-- ova vrlo akutna tjeskoba.
1959
01:24:29,469 --> 01:24:31,673
JOANNE: Tako je strašno,
ali mora postojati--
1960
01:24:31,706 --> 01:24:35,810
znaš, jeste li se sastajali
neki superpametni ljudi
1961
01:24:35,843 --> 01:24:38,312
koje vam daju odgovore?
1962
01:24:38,345 --> 01:24:40,113
DANIEL: To je ono
frustrirajuće zbog toga.
1963
01:24:40,147 --> 01:24:41,683
Nitko ne zna.
1964
01:24:41,716 --> 01:24:44,384
JOANNE:
Sve što mogu reći na to je da
1965
01:24:44,418 --> 01:24:50,190
svaka generacija je imala
ovako nešto zastrašujuće.
1966
01:24:50,223 --> 01:24:52,760
KEVIN: Kad sam se rodio, bilo je
Kubanska raketna kriza.
1967
01:24:52,794 --> 01:24:54,596
(ujednačen otkucaj srca)
1968
01:24:54,629 --> 01:24:56,864
Samo sam se toga bojao
bio je nuklearni rat.
1969
01:24:56,898 --> 01:24:58,298
JOANNE:
Da, ali nismo znali
1970
01:24:58,332 --> 01:24:59,534
što su namjeravali učiniti i...
1971
01:24:59,567 --> 01:25:01,168
KEVIN:
I nije došao kraj svijeta.
1972
01:25:01,201 --> 01:25:02,202
Svi su se probudili
sljedeće jutro,
1973
01:25:02,235 --> 01:25:03,871
a mi još uvijek radimo svoje.
1974
01:25:03,905 --> 01:25:05,439
DANIEL:
Jako sam uplašen,
1975
01:25:05,472 --> 01:25:07,407
posebno u
kontekst, poput,
1976
01:25:07,441 --> 01:25:09,577
-znaš, beba i...
(pulsiranje otkucaja fetalnog srca)
1977
01:25:09,611 --> 01:25:11,178
KEVIN:
Bit će to krivulja učenja.
1978
01:25:11,211 --> 01:25:12,479
JOANNE:
Bit ćeš dobro.
1979
01:25:12,513 --> 01:25:13,681
KEVIN: Ne možeš,
ne možeš razmišljati o
1980
01:25:13,715 --> 01:25:14,849
ono što ne možeš kontrolirati, Daniele.
1981
01:25:14,882 --> 01:25:16,551
Samo zapamtite to.
1982
01:25:16,584 --> 01:25:18,251
DANIEL (prekidajući glas):
Stvarno, stvarno se osjećam
1983
01:25:18,285 --> 01:25:19,587
nervozan i uplašen zbog toga.
1984
01:25:19,621 --> 01:25:21,488
Ima toliko toga
koju ne mogu kontrolirati.
1985
01:25:21,522 --> 01:25:24,358
KEVIN: Ne budi nervozan.
Ne smiješ dopustiti da te to pogodi.
1986
01:25:24,391 --> 01:25:26,794
Možete samo kontrolirati
što možete kontrolirati,
1987
01:25:26,828 --> 01:25:28,395
i to je sve što možete učiniti.
1988
01:25:28,428 --> 01:25:31,231
Ne možete učiniti više od toga.
1989
01:25:31,264 --> 01:25:33,433
Zapišite to u svoju knjigu.
1990
01:25:35,870 --> 01:25:37,572
♪ ♪
1991
01:25:44,712 --> 01:25:47,447
(fetalni otkucaji srca pulsiraju)
1992
01:25:47,481 --> 01:25:49,651
(zavijanje)
1993
01:25:49,684 --> 01:25:52,219
CAROLINE:
Kad pogledate unazad,
1994
01:25:52,252 --> 01:25:54,922
svijetu uvijek dolazi kraj.
1995
01:25:54,956 --> 01:25:57,357
A kad gledate naprijed,
1996
01:25:57,391 --> 01:25:59,627
svijetu uvijek dolazi kraj.
1997
01:25:59,661 --> 01:26:02,429
...u plamenu.
Jedna kuća već gori...
1998
01:26:02,462 --> 01:26:06,299
CAROLINE: Ali svijet
također uvijek počinje.
1999
01:26:08,402 --> 01:26:10,437
DANIEL:
Jeste li spremni?
2000
01:26:10,470 --> 01:26:12,674
Jeste li ikada stvarno spremni?
2001
01:26:16,443 --> 01:26:18,278
DANIEL: Želiš voziti
ili želiš da ja vozim?
2002
01:26:18,311 --> 01:26:19,547
CAROLINE:
Ti voziš.
2003
01:26:20,815 --> 01:26:22,382
(žena govori nerazgovijetno)
-CAROLINE: U redu.
2004
01:26:22,416 --> 01:26:24,284
DANIEL:
Hvala ti, Maria.
2005
01:26:24,317 --> 01:26:26,654
ŽENA: Samo će
osjećati se stvarno grčevito.
2006
01:26:26,688 --> 01:26:28,355
-CAROLINE: U redu.
-ŽENA: Jesi li spreman?
2007
01:26:28,388 --> 01:26:29,691
-CAROLINE: Da.
-(nerazgovjetno brbljanje)
2008
01:26:29,724 --> 01:26:30,958
(Caroline teško uzdahne)
2009
01:26:30,992 --> 01:26:33,326
ŽENA: Mogao bi biti u
medicinska drama sa svim tim...
2010
01:26:34,595 --> 01:26:36,597
♪ ♪
2011
01:26:44,706 --> 01:26:46,607
(statičko pucketanje)
-(nerazgovjetno brbljanje)
2012
01:26:49,610 --> 01:26:51,746
ŽENA:
...neki pritisak.
2013
01:26:53,313 --> 01:26:54,749
Samo se opusti.
2014
01:26:57,451 --> 01:26:59,821
(dječji plač)
-(zvučni signal uređaja)
2015
01:27:02,623 --> 01:27:05,626
DANIEL:
Bok, prijatelju. Oh.
2016
01:27:05,660 --> 01:27:06,961
Bok, prijatelju.
2017
01:27:06,994 --> 01:27:09,362
♪ ♪
2018
01:27:31,652 --> 01:27:34,321
KEVIN:
Bit će to potpuno novi svijet
2019
01:27:34,354 --> 01:27:35,723
za tebe, Daniele.
2020
01:27:37,658 --> 01:27:40,762
I mislim da ćeš biti
čudesan otac.
2021
01:27:41,863 --> 01:27:44,899
JOANNE (smije se):
To je sigurno.
2022
01:27:44,932 --> 01:27:47,068
(Kevin plače)
-Oh.
2023
01:27:47,101 --> 01:27:49,302
(plakanje se nastavlja)
2024
01:27:49,336 --> 01:27:51,572
KEVIN:
Napravit ćeš sjajan posao.
2025
01:27:52,206 --> 01:27:53,541
JOANNE:
Kev, zašto plačeš?
2026
01:27:53,574 --> 01:27:55,076
KEVIN:
Plačem jer...
2027
01:27:55,109 --> 01:27:57,545
Ne znam. Jednostavno ne...
2028
01:27:57,578 --> 01:27:59,914
DANIEL: Tata, hoćeš
i mene rasplači.
2029
01:27:59,947 --> 01:28:01,549
Zašto plačeš?
2030
01:28:03,651 --> 01:28:05,853
KEVIN: Jednostavno to znam
bit ćeš nevjerojatan tata.
2031
01:28:05,887 --> 01:28:07,655
DANIJEL (plačući):
Bit ću samo sjajan tata
2032
01:28:07,688 --> 01:28:09,957
'jer sam imao sjajnog tatu.
2033
01:28:09,991 --> 01:28:12,894
KEVIN: Postajem emotivan,
to je sve.
2034
01:28:12,927 --> 01:28:14,327
JOANNE:
Ajme
2035
01:28:14,361 --> 01:28:15,462
(razigrano čavrljanje preko videa)
2036
01:28:15,495 --> 01:28:17,064
(preko videa):
Dječak, oh, dečko!
2037
01:28:17,098 --> 01:28:18,633
Bože moj!
2038
01:28:19,267 --> 01:28:21,035
Pogledaj te male bezobraznike.
2039
01:28:21,068 --> 01:28:25,573
Pogledaj te male bezobraznike.
Pogledaj te male bezobraznike.
2040
01:28:25,606 --> 01:28:26,741
Da.
2041
01:28:26,774 --> 01:28:29,376
DANIEL:
Znam kako završiti ovaj film.
2042
01:28:30,011 --> 01:28:31,712
Bebe.
2043
01:28:32,379 --> 01:28:35,883
-Kraj filma je otprilike
bebe. (brbljanje preko videa)
2044
01:28:35,917 --> 01:28:37,618
Oni su afirmativni za život.
2045
01:28:37,652 --> 01:28:39,486
Iscrpljujuće su.
2046
01:28:39,520 --> 01:28:41,421
(beba se smije)
-Smiješni su.
2047
01:28:41,454 --> 01:28:42,957
I vrijedni su toga.
2048
01:28:42,990 --> 01:28:46,828
Ovaj film nije o
unutarnji rad tehnologije.
2049
01:28:46,861 --> 01:28:48,696
Ne radi se o
glavni direktori milijarderi.
2050
01:28:48,729 --> 01:28:50,665
Ne radi se o geopolitici.
2051
01:28:50,698 --> 01:28:53,935
Ne radi se o zastrašujućem
budućnost ili kraj svijeta,
2052
01:28:53,968 --> 01:28:56,137
jer moj svijet
upravo počinje.
2053
01:28:56,170 --> 01:28:57,972
Gradim jaslice.
2054
01:28:58,005 --> 01:28:59,907
Upravo ovdje, upravo sada.
2055
01:28:59,941 --> 01:29:01,008
(dječje gugutanje)
2056
01:29:01,042 --> 01:29:02,743
AI će sve promijeniti
2057
01:29:02,777 --> 01:29:05,913
na previše moćan način i
složeno za razumijevanje.
2058
01:29:05,947 --> 01:29:09,717
A budućnost nije
da svatko od nas odluči.
2059
01:29:10,818 --> 01:29:13,921
Ali ono što mogu odlučiti jest biti
najbolji mogući muž
2060
01:29:13,955 --> 01:29:17,992
za moju ženu i najbolje
mogući tata za mog sina.
2061
01:29:18,025 --> 01:29:21,796
Dakle, je li naša AI budućnost
košmarna distopija
2062
01:29:21,829 --> 01:29:24,098
ili utopija
o čemu svi sanjamo,
2063
01:29:24,131 --> 01:29:27,134
Barem ću znati
da sam učinio sve što sam mogao
2064
01:29:27,168 --> 01:29:30,605
da vodim svoju obitelj
kroz ovu AI revoluciju.
2065
01:29:30,638 --> 01:29:34,474
I bez obzira na sve,
zajedno ćemo se suočiti s tim.
2066
01:29:34,508 --> 01:29:35,877
(zvuči ohrabrujuća glazba)
2067
01:29:35,910 --> 01:29:37,444
(glazba naglo prestaje)
2068
01:29:37,477 --> 01:29:40,047
DANIEL:
Dakle, to je samo naša prva ideja.
2069
01:29:40,715 --> 01:29:43,084
Kakav je osjećaj?
Osjećaš li ovo?
2070
01:29:43,117 --> 01:29:45,720
Čekaj, ja-- kao, ovo nije--
ovo je šala.
2071
01:29:45,753 --> 01:29:48,388
Nije zapravo
kako ćeš to završiti.
2072
01:29:50,591 --> 01:29:53,160
Mislim, to je samo ideja. U redu?
2073
01:29:53,194 --> 01:29:54,996
Ne, Daniele.
2074
01:29:55,029 --> 01:29:56,631
...uh, jako, jako glupo.
2075
01:29:56,664 --> 01:29:59,166
Ti si samo potrošio, ja ne
znam koliko godina
2076
01:29:59,200 --> 01:30:03,104
našeg života radeći na ovome,
razgovarajući sa svakim vodećim stručnjakom
2077
01:30:03,137 --> 01:30:05,539
na planetu o temi,
2078
01:30:05,573 --> 01:30:08,175
i ti ćeš tome stati na kraj
2079
01:30:08,209 --> 01:30:11,444
s nekim, kao,
kumbaya sranje?
2080
01:30:11,478 --> 01:30:14,048
Postoji asteroid
uputio na Zemlju.
2081
01:30:14,081 --> 01:30:15,917
čime se baviš samo...
2082
01:30:15,950 --> 01:30:18,152
držati se za ruke
i nadam se da će biti dobro?
2083
01:30:18,185 --> 01:30:19,854
Apsolutno ne.
2084
01:30:19,887 --> 01:30:22,924
Moramo-- to ha--
mora biti...
2085
01:30:22,957 --> 01:30:25,026
Kraj mora...
2086
01:30:26,493 --> 01:30:28,529
CAROLINE:
U redu, prva stvar:
2087
01:30:28,562 --> 01:30:32,033
AI je ovdje,
i ovdje je da ostane.
2088
01:30:32,066 --> 01:30:33,534
Sranje je iz konja,
2089
01:30:33,567 --> 01:30:36,436
ali konj jest
nastavit ću srati.
2090
01:30:38,873 --> 01:30:39,807
(navijanje publike)
2091
01:30:39,840 --> 01:30:41,943
Znate, jedan od osnovnih
zakoni povijesti
2092
01:30:41,976 --> 01:30:44,578
je li to ništa
stvarno imaju početak
2093
01:30:44,612 --> 01:30:46,580
i ništa nema kraja.
2094
01:30:46,614 --> 01:30:48,049
Samo se nastavlja.
2095
01:30:48,082 --> 01:30:50,918
AI nije ni blizu
njegov puni razvoj.
2096
01:30:50,952 --> 01:30:53,087
CAROLINE: Čak i ako
trenutni AI balon puca,
2097
01:30:53,120 --> 01:30:54,956
-ljudi nikada neće stati
(bukač puše)
2098
01:30:54,989 --> 01:30:57,959
gradeći sve više i više
snažna tehnologija.
2099
01:30:57,992 --> 01:30:59,827
HAO:
Možete odabrati da ne koristite AI
2100
01:30:59,860 --> 01:31:02,730
ili sudjelovati u tome, ali je
ionako će utjecati na tebe.
2101
01:31:02,763 --> 01:31:04,231
DANIEL: Dobro, fantastično.
Tako da smo sjebani.
2102
01:31:04,265 --> 01:31:07,568
CAROLINE: Ne, nismo
zbog jedne jednostavne stvari.
2103
01:31:11,572 --> 01:31:13,574
Ovo nije neizbježno.
2104
01:31:13,607 --> 01:31:15,576
Kad bismo samo mogli vidjeti
jasno zajedno,
2105
01:31:15,609 --> 01:31:18,813
očit će odgovor biti
odabrati nešto drugačije.
2106
01:31:18,846 --> 01:31:21,615
Moramo vrlo jasno
promijeniti igru
2107
01:31:21,649 --> 01:31:23,517
od utrke do dna
u utrku do vrha.
2108
01:31:23,551 --> 01:31:27,855
LEAHY: Problem koji trebamo
riješiti nije AI posebno.
2109
01:31:27,888 --> 01:31:31,726
To je općenito pitanje
kako gradimo društvo
2110
01:31:31,759 --> 01:31:34,528
koji se može nositi s
moćna tehnologija.
2111
01:31:34,562 --> 01:31:35,830
Jer mi ćemo dobiti
2112
01:31:35,863 --> 01:31:37,264
samo sve moćniji
tehnologija.
2113
01:31:37,298 --> 01:31:40,034
CAROLINE:
Moramo unaprijediti naše društvo,
2114
01:31:40,067 --> 01:31:41,902
a prvi korak je
okupiti se
2115
01:31:41,936 --> 01:31:43,838
-i zahtjevan...
-SVI: Koordinacija.
2116
01:31:43,871 --> 01:31:47,608
Neki oblik međunarodnog
suradnji ili dogovoru o
2117
01:31:47,641 --> 01:31:48,909
kakve bi trebale biti norme.
2118
01:31:48,943 --> 01:31:50,544
Znate, kako treba
budu raspoređeni...
2119
01:31:50,578 --> 01:31:52,146
Onako, pravi
međunarodna diplomacija
2120
01:31:52,179 --> 01:31:53,781
među velesilama.
2121
01:31:53,814 --> 01:31:56,784
Kinezi su jednako zabrinuti
o tome kao Amerikanci.
2122
01:31:56,817 --> 01:31:58,085
Mislim da je teško,
znaš,
2123
01:31:58,119 --> 01:31:59,920
u struji
geopolitička klima,
2124
01:31:59,954 --> 01:32:01,756
- ali mislim da je potrebno.
-RASKIN: Apsolutno.
2125
01:32:01,789 --> 01:32:05,059
Na potpuno isti način na koji
posljednji put da čovječanstvo
2126
01:32:05,092 --> 01:32:09,163
razvio tehnologiju
ovo opasno...
2127
01:32:09,830 --> 01:32:12,900
...koji je zahtijevao kompletan,
pomak bez presedana
2128
01:32:12,933 --> 01:32:15,169
strukturi našeg svijeta.
2129
01:32:15,770 --> 01:32:18,172
CAROLINE:
Dakle, to moramo dovršiti,
2130
01:32:18,205 --> 01:32:20,307
ponovno pomak bez presedana.
2131
01:32:21,008 --> 01:32:24,678
Znate, mi-mi razgovaramo s ljudima
koji rade u tim AI tvrtkama,
2132
01:32:24,712 --> 01:32:25,846
i kažu da žele učiniti
nešto drugačije,
2133
01:32:25,880 --> 01:32:27,048
ali treba im pritisak javnosti.
2134
01:32:27,081 --> 01:32:28,716
Oni trebaju vladu
učiniti nešto.
2135
01:32:28,749 --> 01:32:30,217
Onda idemo u DC,
i oni kažu,
2136
01:32:30,251 --> 01:32:32,153
„Pa, treba nam Silicijska dolina
učiniti nešto drugačije.
2137
01:32:32,186 --> 01:32:34,021
Oni su ti koji će
smisli zaštitnu ogradu."
2138
01:32:34,055 --> 01:32:36,057
I tako svi pokazuju prstom
prst na nekog drugog,
2139
01:32:36,090 --> 01:32:39,927
a ono oko čega se slažu je
da nam treba pritisak javnosti
2140
01:32:39,960 --> 01:32:41,796
kako bi nešto drugo
dogoditi se.
2141
01:32:41,829 --> 01:32:43,164
I to je ono što ti
2142
01:32:43,197 --> 01:32:44,799
i svi ljudi
gledanje ovog filma može učiniti.
2143
01:32:44,832 --> 01:32:45,833
CAROLINE:
Moramo zadržati vođe
2144
01:32:45,866 --> 01:32:47,334
u našim vladama
2145
01:32:47,368 --> 01:32:48,969
i vođe
ove tvrtke odgovorne.
2146
01:32:49,003 --> 01:32:51,639
BOEREE:
U kojoj god zemlji bili,
2147
01:32:51,672 --> 01:32:53,340
neka znaju
da nisi sretan
2148
01:32:53,374 --> 01:32:54,975
uz trenutni status quo.
2149
01:32:55,009 --> 01:32:57,678
Dakle, da, dosadno je to reći
nazovite svog kongresmena.
2150
01:32:57,711 --> 01:32:59,880
Ne kažem da bi trebao
samo to učini, ali, kao,
2151
01:32:59,914 --> 01:33:01,215
mi to moramo učiniti.
2152
01:33:01,248 --> 01:33:02,883
Kao, moramo dobiti
uključena vlada.
2153
01:33:02,917 --> 01:33:04,185
DANIEL: Pa mi samo
nazovi ih i reci,
2154
01:33:04,218 --> 01:33:06,253
"Hej, zaustavi Big Tech
od uništenja svijeta"?
2155
01:33:06,287 --> 01:33:09,223
CAROLINE: Ne, ali postoje
tone stvarno očitog,
2156
01:33:09,256 --> 01:33:11,225
jednostavne stvari
možemo biti zahtjevni.
2157
01:33:11,258 --> 01:33:12,960
Trebamo transparentnost.
2158
01:33:12,993 --> 01:33:14,795
Moramo okončati tajnovitost
koja postoji unutar ovih laboratorija,
2159
01:33:14,829 --> 01:33:17,031
jer oni grade
moćna tehnologija,
2160
01:33:17,064 --> 01:33:19,066
i javnost zaslužuje znati
što se događa.
2161
01:33:19,100 --> 01:33:21,068
U konačnici,
trebat će nam nezavisni,
2162
01:33:21,102 --> 01:33:23,637
objektivne treće strane
za procjenu sustava.
2163
01:33:23,671 --> 01:33:27,274
Na tvrtke ne možemo računati
da ocjenjuju vlastitu zadaću.
2164
01:33:27,308 --> 01:33:31,378
Ako-ako tvrtka koristi AI i-i
ima AI u interakciji s vama,
2165
01:33:31,412 --> 01:33:35,249
trebalo bi otkriti da ste
u interakciji sa sustavom umjetne inteligencije.
2166
01:33:35,282 --> 01:33:39,019
Da. I-i također trebamo
sustav koji čini poduzeća
2167
01:33:39,053 --> 01:33:42,156
zakonski odgovoran za
AI sustavi koje proizvode.
2168
01:33:42,189 --> 01:33:46,293
Moramo se uvjeriti da tamo
su testovi i sigurnosni standardi
2169
01:33:46,327 --> 01:33:48,662
koje se primjenjuju na sve.
2170
01:33:48,696 --> 01:33:50,097
Trebaju nam neka osnovna pravila,
2171
01:33:50,131 --> 01:33:51,999
i moramo se nastaviti prilagođavati
ta pravila
2172
01:33:52,032 --> 01:33:55,002
pri brzini koja
tehnologija se razvija.
2173
01:33:55,035 --> 01:33:57,738
LEAHY: Trenutno postoji
više propisa
2174
01:33:57,771 --> 01:33:59,840
o prodaji sendviča
javnosti
2175
01:33:59,874 --> 01:34:03,410
nego što postoji na građevini
potencijalno kraj svijeta AGI.
2176
01:34:03,444 --> 01:34:05,279
CAROLINE:
I zadnja stvar je
2177
01:34:05,312 --> 01:34:07,214
da se nadogradimo.
2178
01:34:07,915 --> 01:34:10,284
Ovo nije, kao, posao
iz, kao, sigurnosnog tima
2179
01:34:10,317 --> 01:34:12,153
u bilo kojem laboratoriju ili izvršni direktor.
2180
01:34:12,186 --> 01:34:13,854
Dakle, ovo je
svačiji posao.
2181
01:34:13,888 --> 01:34:15,156
Nemoj, kao, ostaviti to
do stručnjaka za umjetnu inteligenciju.
2182
01:34:15,189 --> 01:34:17,424
Kao, (bleep) to.
Kao, ovo je trenutak
2183
01:34:17,458 --> 01:34:19,460
da smo u tranziciji
od, kao,
2184
01:34:19,493 --> 01:34:22,163
uglavnom ljudska spoznajna moć
na, kao, AI kognitivnu moć,
2185
01:34:22,196 --> 01:34:23,197
i utječe na sve,
2186
01:34:23,230 --> 01:34:25,166
i želim da ljudi budu
u tom razgovoru.
2187
01:34:25,199 --> 01:34:27,234
I rekao bih, ako mislite
da će nas AI sve pobiti,
2188
01:34:27,268 --> 01:34:28,969
trebao bi raditi
u istraživanju umjetne inteligencije
2189
01:34:29,003 --> 01:34:30,804
kako bi se uvjerio da neće,
jer ti imaš
2190
01:34:30,838 --> 01:34:32,773
ogromna količina agencija.
2191
01:34:32,806 --> 01:34:34,208
CAROLINE:
Tko god da ste,
2192
01:34:34,241 --> 01:34:36,177
ti si stručnjak
u vlastitoj industriji,
2193
01:34:36,210 --> 01:34:39,413
u vlastitoj školi,
u vlastitoj obitelji,
2194
01:34:39,446 --> 01:34:43,050
i to ovisi o vama
kako se AI koristi u vašem životu.
2195
01:34:43,083 --> 01:34:45,319
Bilo da se želite pridružiti
tvoj školski odbor
2196
01:34:45,352 --> 01:34:48,389
ili-ili želite li pitati
vaš poslodavac
2197
01:34:48,422 --> 01:34:49,924
kako koriste
AI tehnologije,
2198
01:34:49,957 --> 01:34:52,259
kao, svi mi možemo obaviti posao.
2199
01:34:52,293 --> 01:34:56,330
Bilo je mnogo sindikata
prilično učinkovit u, kao,
2200
01:34:56,363 --> 01:34:59,333
određivanje kako žele
za interakciju s tim sustavima.
2201
01:34:59,366 --> 01:35:02,303
- Sindikati medicinskih sestara, sindikati učitelja.
(nerazgovijetno skandiranje)
2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI: Voljela bih
ako su roditelji posvuda
2203
01:35:05,072 --> 01:35:06,407
otišao u tvrtke AI
i rekao,
2204
01:35:06,440 --> 01:35:08,342
„Kako možeš biti bolji
na ovo?" Uključujući i nas.
2205
01:35:08,375 --> 01:35:11,445
Dakle, osnovao sam Encode Justice
kad sam imao 15 godina.
2206
01:35:11,478 --> 01:35:15,082
Mi smo prvi na svijetu
i najveća vojska mladih
2207
01:35:15,115 --> 01:35:18,452
borba za usmjerenost na čovjeka
umjetna inteligencija.
2208
01:35:18,485 --> 01:35:21,288
Nije važno tko si,
čak i najmanja djela pomažu,
2209
01:35:21,322 --> 01:35:24,291
pa čak i početak razgovora
je stvarno, stvarno vrijedan.
2210
01:35:24,325 --> 01:35:26,293
DANIEL:
Da bi moj posao mogao biti, kao,
2211
01:35:26,327 --> 01:35:28,295
Reci Bubby Lili o ovome
na večeri?
2212
01:35:28,329 --> 01:35:30,364
CAROLINE: Iskreno, da,
to je dio toga.
2213
01:35:30,397 --> 01:35:32,099
I to ćemo morati učiniti
2214
01:35:32,132 --> 01:35:34,969
puno stvari koje
još nismo ni smislili.
2215
01:35:35,002 --> 01:35:36,503
Ljudi će gledati
sve što smo naveli
2216
01:35:36,538 --> 01:35:37,838
i reći: "To nije dovoljno."
2217
01:35:37,871 --> 01:35:39,473
Bitno je da snage
2218
01:35:39,507 --> 01:35:41,242
koji rade
prema rješenjima
2219
01:35:41,275 --> 01:35:44,979
početi premašivati sile koje
rade protiv rješenja.
2220
01:35:45,012 --> 01:35:46,947
Činiti svijet boljim
uvijek je bilo teško.
2221
01:35:46,981 --> 01:35:48,249
Nikad nije bilo lako.
2222
01:35:48,282 --> 01:35:50,317
Kao, bilo ih je
mnogo usranih stvari
2223
01:35:50,351 --> 01:35:52,286
koje su se dogodile u povijesti,
i imali smo...
2224
01:35:52,319 --> 01:35:54,121
kao, ljudi su imali
nositi se s tim,
2225
01:35:54,154 --> 01:35:57,191
a onda su ustali
i promijenio ga.
2226
01:35:57,224 --> 01:36:00,894
Postoji sulud broj
izazova koji su pred nama,
2227
01:36:00,928 --> 01:36:04,398
ali ako ih možemo proći,
2228
01:36:04,431 --> 01:36:08,536
možemo otključati budućnost dalje
naša najluđa mašta.
2229
01:36:08,570 --> 01:36:10,804
CAROLINE:
Moramo biti zajedno
2230
01:36:10,838 --> 01:36:14,875
i pronađite put između
obećanje i opasnost.
2231
01:36:14,908 --> 01:36:17,177
Ne možemo biti pesimisti
ili optimisti.
2232
01:36:17,778 --> 01:36:20,180
Moramo postati nešto novo.
2233
01:36:22,182 --> 01:36:25,185
Zove me prijatelj
apokaloptimista.
2234
01:36:25,219 --> 01:36:26,186
"Apokaloptimist"?
2235
01:36:26,220 --> 01:36:28,889
Mislim da bi to moglo biti
moja nova omiljena riječ.
2236
01:36:28,922 --> 01:36:30,291
(smijeh) -MUŠKARAC: Možda
ime ovog filma.
2237
01:36:30,324 --> 01:36:31,892
-Moglo bi biti ime
ovog filma. (smijeh)
2238
01:36:31,925 --> 01:36:34,862
-"Apokaloptimist."
-"Apokaloptimist."
2239
01:36:34,895 --> 01:36:36,430
Da.
2240
01:36:36,463 --> 01:36:37,898
Ne vjerujem u propast.
2241
01:36:37,931 --> 01:36:39,366
Vjerujem u duh života,
2242
01:36:39,400 --> 01:36:43,137
uh, a ja vjerujem u život
o sposobnosti djelovanja.
2243
01:36:43,170 --> 01:36:44,905
(publika pjeva)
- Sposobnost povezivanja,
2244
01:36:44,938 --> 01:36:47,141
sposobnost osjećanja.
2245
01:36:49,376 --> 01:36:51,345
-(nejasno brbljanje u misiji)
-(navijanje)
2246
01:36:51,378 --> 01:36:54,315
Moramo udvostručiti
sve više i više
2247
01:36:54,348 --> 01:36:57,384
na tim kapacitetima
koje imamo kao ljudi
2248
01:36:57,418 --> 01:36:59,853
taj robotski sustav
nikada neće.
2249
01:37:00,487 --> 01:37:04,559
Sada je vrijeme
donositi te odluke o
2250
01:37:04,592 --> 01:37:08,062
kako ga voditi i podržati
nego nas dijeli.
2251
01:37:08,095 --> 01:37:10,898
DANIEL: Zvuči nekako kao
odgajanje klinca.
2252
01:37:10,931 --> 01:37:12,634
To je ono što se događa. Da.
2253
01:37:12,667 --> 01:37:15,035
CAROLINE: AI možda jest
više sirove inteligencije
2254
01:37:15,069 --> 01:37:17,471
-od naših malih ljudskih mozgova,
(beba se smije)
2255
01:37:17,504 --> 01:37:20,608
ali mi smo puno više
nego samo naša inteligencija.
2256
01:37:21,208 --> 01:37:25,379
Inteligencija je-jest
sposobnost rješavanja problema.
2257
01:37:25,412 --> 01:37:29,116
Mudrost je sposobnost spoznaje
koje probleme riješiti.
2258
01:37:31,519 --> 01:37:34,188
(nejasno čavrljanje posade)
2259
01:37:34,221 --> 01:37:35,489
DANIEL:
Može ići u vaš hladnjak.
2260
01:37:35,523 --> 01:37:36,658
(smijeh)
2261
01:37:36,691 --> 01:37:38,626
YUDKOWSKY:
Dakle, ne odustaj.
2262
01:37:38,660 --> 01:37:40,227
Čovječanstvo je učinilo
2263
01:37:40,260 --> 01:37:43,030
teže stvari od ovoga
u svojoj povijesti.
2264
01:37:43,897 --> 01:37:46,967
Samo je teško uvjeriti
ljudi koje bi trebali.
2265
01:37:47,000 --> 01:37:49,336
♪ ♪
2266
01:37:52,072 --> 01:37:53,273
(zvuk pucketa)
2267
01:37:55,309 --> 01:37:57,277
DANIEL: Dakle, kad sam počeo
snimajući ovaj film,
2268
01:37:57,311 --> 01:37:59,012
Rekao bih da jesam, kao,
2269
01:37:59,046 --> 01:38:01,348
općenito cinični seronja
o cijeloj ovoj stvari.
2270
01:38:01,382 --> 01:38:03,450
U toku tečaja
snimanja filma,
2271
01:38:03,484 --> 01:38:05,152
Shvatio sam
to, kao,
2272
01:38:05,185 --> 01:38:06,987
to je jedina stvar
ne možemo biti.
2273
01:38:07,756 --> 01:38:09,990
...ili bilo što drugo
želiš li razgovarati?
2274
01:38:10,023 --> 01:38:11,992
Ne. Mislim da smo dosta pokrili.
2275
01:38:12,025 --> 01:38:13,561
-Da. (smije se)
-ČOVJEK: Hvala vam puno.
2276
01:38:13,595 --> 01:38:15,295
Hvala.
2277
01:38:15,929 --> 01:38:17,498
DANIEL:
Ovo je problem koji je veći
2278
01:38:17,532 --> 01:38:19,400
od bilo koje osobe.
2279
01:38:19,433 --> 01:38:22,136
Ovo će promijeniti svijet
načine koje ne razumijemo.
2280
01:38:22,169 --> 01:38:24,037
To je sve istina.
2281
01:38:24,071 --> 01:38:26,106
(smijeh): U redu.
-(nerazgovjetno brbljanje)
2282
01:38:26,140 --> 01:38:28,208
DANIEL:
Ali ono za što imamo agenciju
2283
01:38:28,242 --> 01:38:30,411
je ono što radimo u vezi s tim.
2284
01:38:30,444 --> 01:38:33,113
Kako granična umjetna inteligencija raste
eksponencijalno sposobniji...
2285
01:38:33,147 --> 01:38:34,682
DANIEL:
I stvarnost
2286
01:38:34,716 --> 01:38:37,151
to ako samo odlučimo
beznadno je,
2287
01:38:37,184 --> 01:38:39,420
onda je beznadno.
2288
01:38:39,453 --> 01:38:41,221
...izložiti manje stresa
na planeti zemlji...
2289
01:38:41,255 --> 01:38:43,257
DANIEL:
Ali ako odlučite
2290
01:38:43,290 --> 01:38:46,293
koje želite isprobati...
2291
01:38:47,194 --> 01:38:48,563
...onda pokušaj.
2292
01:38:48,596 --> 01:38:50,931
A to je teško.
2293
01:38:51,733 --> 01:38:53,500
Ali znate što?
2294
01:38:53,535 --> 01:38:57,137
Velike stvari izgledaju nemoguće
prije nego što se stvarno dogode.
2295
01:38:58,673 --> 01:39:01,676
Ali kada se konačno dogode,
2296
01:39:01,709 --> 01:39:05,713
to je zato što milijuni ljudi
poduzeo milijune akcija
2297
01:39:05,747 --> 01:39:08,182
da ih ostvarimo.
2298
01:39:08,215 --> 01:39:10,752
I tako...
2299
01:39:10,785 --> 01:39:13,220
moramo pokušati.
2300
01:39:14,087 --> 01:39:15,523
(teško uzdahne)
2301
01:39:21,663 --> 01:39:24,298
Previše je na kocki.
2302
01:39:24,331 --> 01:39:26,366
♪ ♪
2303
01:39:33,040 --> 01:39:35,375
(pucketanje filma)
2304
01:39:37,545 --> 01:39:41,749
Pogledajte nevjerojatne promjene
doživjeli smo i preživjeli
2305
01:39:41,783 --> 01:39:43,317
iz kamenog doba,
2306
01:39:43,350 --> 01:39:46,487
a opet još veće promjene
još dolaze.
2307
01:39:46,521 --> 01:39:50,090
("Izgubio sam od pokušaja"
svira Son Lux)
2308
01:40:19,086 --> 01:40:21,288
♪ ♪
2309
01:40:48,181 --> 01:40:50,718
♪ Što ćemo sada? ♪
2310
01:40:50,752 --> 01:40:53,755
♪ Izgubili smo se pokušavajući ♪
2311
01:40:53,788 --> 01:40:55,690
♪ Izgubili smo ga ♪
2312
01:40:55,723 --> 01:40:57,457
♪ Za pokušaj ♪
2313
01:41:00,193 --> 01:41:02,764
♪ Što ćemo sada? ♪
2314
01:41:02,797 --> 01:41:05,733
♪ Izgubili smo se pokušavajući ♪
2315
01:41:05,767 --> 01:41:07,602
♪ Izgubili smo ga ♪
2316
01:41:07,635 --> 01:41:09,469
♪ Za pokušaj ♪
2317
01:41:12,205 --> 01:41:14,709
♪ Što sad možemo reći? ♪
2318
01:41:14,742 --> 01:41:17,745
♪ Naša usta samo lažu ♪
2319
01:41:17,779 --> 01:41:19,212
♪ Naša usta ♪
2320
01:41:19,246 --> 01:41:21,448
♪ Samo laže ♪
2321
01:41:25,720 --> 01:41:28,255
♪ Što sad možemo reći? ♪
2322
01:41:28,288 --> 01:41:31,358
♪ Naša usta samo lažu ♪
2323
01:41:31,391 --> 01:41:32,760
♪ Naša usta ♪
2324
01:41:32,794 --> 01:41:34,762
♪ Samo laže ♪
2325
01:41:34,796 --> 01:41:37,197
♪ ♪
2326
01:42:01,522 --> 01:42:04,291
♪ Prepusti se i izađi ♪
2327
01:42:04,324 --> 01:42:07,294
♪ Ustajemo u umirućem ♪
2328
01:42:07,327 --> 01:42:08,763
♪ Ustajemo ♪
2329
01:42:08,796 --> 01:42:11,164
♪ U umirućem ♪
2330
01:42:13,568 --> 01:42:16,336
♪ Prepusti se i izađi ♪
2331
01:42:16,370 --> 01:42:19,272
♪ Ustajemo u umirućem ♪
2332
01:42:19,306 --> 01:42:20,775
♪ Ustajemo ♪
2333
01:42:20,808 --> 01:42:23,176
♪ U umirućem ♪
2334
01:42:25,546 --> 01:42:28,248
♪ Prepusti se i izađi ♪
2335
01:42:28,281 --> 01:42:31,251
♪ Ustajemo u umirućem ♪
2336
01:42:31,284 --> 01:42:32,787
♪ Ustajemo ♪
2337
01:42:32,820 --> 01:42:35,155
♪ U umirućem ♪
2338
01:42:37,558 --> 01:42:40,293
♪ Prepusti se i izađi ♪
2339
01:42:40,327 --> 01:42:43,263
♪ Ustajemo u umirućem ♪
2340
01:42:43,296 --> 01:42:44,532
♪ Mi ♪
2341
01:42:44,565 --> 01:42:46,601
♪ ♪
2342
01:43:16,263 --> 01:43:18,465
♪ ♪
2343
01:43:23,336 --> 01:43:25,840
♪ Oh, oh, oh, oh, oh ♪
2344
01:43:25,873 --> 01:43:27,675
♪ Oh, oh, oh, oh ♪
2345
01:43:27,709 --> 01:43:28,943
♪ Oh, oh ♪
2346
01:43:28,976 --> 01:43:31,913
♪ Oh, oh, oh, oh, oh, oh ♪
2347
01:43:31,946 --> 01:43:33,648
♪ Oh, oh, oh, oh ♪
2348
01:43:33,681 --> 01:43:34,916
♪ Oh, oh ♪
2349
01:43:34,949 --> 01:43:37,552
♪ Oh, oh, oh, oh, oh, oh ♪
2350
01:43:37,585 --> 01:43:40,287
♪ Što ćemo sada? ♪
2351
01:43:40,320 --> 01:43:43,290
♪ Izgubili smo se pokušavajući ♪
2352
01:43:43,323 --> 01:43:45,026
♪ Izgubili smo ga ♪
2353
01:43:45,059 --> 01:43:46,861
♪ Za pokušaj ♪
2354
01:43:46,894 --> 01:43:49,530
♪ Oh, oh, oh, oh, oh, oh ♪
2355
01:43:49,564 --> 01:43:52,332
♪ Što ćemo sada? ♪
2356
01:43:52,365 --> 01:43:55,335
♪ Izgubili smo se pokušavajući ♪
2357
01:43:55,368 --> 01:43:57,038
♪ Izgubili smo ga ♪
2358
01:43:57,071 --> 01:43:58,940
♪ Za pokušaj. ♪
2359
01:43:58,973 --> 01:44:01,374
♪ ♪
2360
01:44:23,798 --> 01:44:24,865
(pjesma završava)